Russ, ChristianStalder, Philipp H.Rufinatscha, StefaniePimentel, TiborGeissmann, Lukas2024-05-022024-05-0220242198-2775http://dx.doi.org/10.1365/s40702-024-01048-5https://dl.gi.de/handle/20.500.12116/44009Künstliche Intelligenz (KI) ist schon länger in den Spitälern direkt und indirekt präsent. Oftmals ist KI für Arbeitsplatzfunktionen im Bürobereich wie z. B. in Spracherkennungssoftware verfügbar, teilweise auch in Personal- und Ressourcen-Optimierungssoftware. Das Spektrum reicht speziell im medizinischen Bereich von datengetriebenen Analysen und Informationsunterstützungssystemen bis hin zur Generierung von Diagnose- und Therapievorschlägen für das medizinische Personal. Jedoch sind vielen Akteuren in den Spitälern der Umfang und die Auswirkung von KI-Technologien gar nicht wirklich bewusst. Noch weniger bekannt sind dabei die regulatorischen Vorgaben in Kombination mit dem Einsatz von Maschinellem Lernen (ML). Basierend auf einer repräsentativen Befragung von allgemeinen Spitälern in der Schweiz wurde der aktuelle Stand der KI-Nutzung erhoben. Auf dieser Basis werden die Anforderungen an ML-Systeme in Bezug auf die Medizinprodukteverordnung und deren Auswirkung in Hinblick auf den konformen Einsatz von medizinischer Software analysiert. Wir präsentieren einen Vorschlag, wie ML-Systeme besser mit den Regulatorien in Einklang gebracht werden können. Im Ausblick wird auf die möglichen Grenzen und Notwendigkeiten für zukünftige Weiterentwicklungen eingegangen. Artificial intelligence (AI) has been present in hospitals directly and indirectly for some time. Often AI is available for workplace functions in the office area, such as speech recognition software, and in some cases also in personnel and resource optimization software. In the medical field, specifically, the spectrum ranges from data-driven analyses and information support systems to the generation of diagnostic and therapeutic suggestions for medical personnel. However, many players in hospitals are not aware of the scope and impact of AI technologies. What is not well known are the regulatory requirements in combination with the use of machine learning (ML). Based on a representative survey of general hospitals in Switzerland, the current state of AI usage was determined. On this basis, we analyze the requirements for ML systems with respect to the Medical Device Regulation and their impact with respect to the compliant use of medical software. We present a proposal on how ML systems can be brought more in line with regulations. In the concluding outlook, the possible limitations and necessities for future developments are discussed.Artificial intelligenceComplianceHospitalKonformitätKünstliche IntelligenzMachine learningMaschinelles LernenMedical device regulationMedizinprodukteverordnungSpitalSubsymbolic artificial intelligenceSubsymbolische Künstliche IntelligenzText/Journal Article10.1365/s40702-024-01048-5