Künstliche Intelligenz im deutschen Gesundheitswesen: Anwendungen, Regulierung und Perspektiven

1. Einleitung: Die Rolle der Künstlichen Intelligenz im deutschen Gesundheitswesen

Kurzer Überblick über die Relevanz und das Potenzial von KI

Die Künstliche Intelligenz (KI) gilt als eine Schlüsseltechnologie des 21. Jahrhunderts und birgt ein immenses transformatives Potenzial für das deutsche Gesundheitswesen. Sie verspricht nicht nur, die medizinische Versorgung in Diagnose, Therapie und Prävention fundamental zu verbessern, sondern auch die Effizienz administrativer Prozesse zu steigern und innovative Antworten auf drängende Herausforderungen wie den demografischen Wandel, den zunehmenden Fachkräftemangel und steigende Gesundheitskosten zu liefern. Die Bundesregierung hat die Bedeutung der KI erkannt und strebt eine verantwortungsvolle sowie gemeinwohlorientierte Entwicklung und Nutzung dieser Technologie an, die ethisch, rechtlich und kulturell in die Gesellschaft eingebettet ist.  

Die Potenziale der KI im Gesundheitswesen sind vielfältig. Sie reichen von der präziseren und schnelleren Diagnostik durch die Analyse medizinischer Bilder und komplexer Datensätze über die Entwicklung personalisierter Therapieansätze bis hin zur Optimierung von Krankenhausabläufen und der Entlastung des medizinischen Personals von Routineaufgaben. Studien deuten darauf hin, dass der großflächige Einsatz von KI erhebliche Kosteneinsparungen ermöglichen und die Versorgungsqualität verbessern könnte. So könnten beispielsweise durch KI-gestützte Systeme die Gesundheits- und Folgekosten allein von Demenz, Brustkrebs und kindlicher Adipositas in Europa innerhalb von zehn Jahren um nahezu 180 Milliarden Euro gesenkt werden.  

Die Diskrepanz zwischen diesem enormen Potenzial und der tatsächlichen Implementierungsgeschwindigkeit von KI-Lösungen im deutschen Gesundheitswesen ist jedoch signifikant. Während viele Quellen das transformative Potenzial betonen , wird gleichzeitig eine gewisse “Pilot-Paralyse” und eine zögerliche Adaption in Deutschland im internationalen Vergleich festgestellt. Dies legt nahe, dass die Hindernisse nicht allein technologischer Natur sind oder auf einem mangelnden Verständnis des Potenzials beruhen. Vielmehr scheinen tiefere systemische und kulturelle Faktoren eine Rolle zu spielen. Komplexe regulatorische Hürden, eine fragmentierte Datenlandschaft, eine traditionell eher risikoscheue Haltung im Gesundheitssektor, eine bisweilen unzureichende digitale Infrastruktur sowie möglicherweise fehlende Anreizsysteme für Innovationen könnten hier als Bremsfaktoren wirken. Eine erfolgreiche und breitenwirksame Integration von KI erfordert somit nicht nur technologische Fortschritte, sondern auch einen begleitenden Kulturwandel und eine proaktive Anpassung der gesamtgesellschaftlichen und gesundheitspolitischen Rahmenbedingungen.  

Definitionen und Schlüsselkonzepte der KI in der Medizin

Um die Diskussion über KI im Gesundheitswesen fundiert führen zu können, ist ein klares Verständnis der zentralen Begriffe unerlässlich. Künstliche Intelligenz (KI) bezeichnet allgemein die Fähigkeit von Computersystemen, Aufgaben auszuführen, die typischerweise menschliche Intelligenz erfordern, wie Lernen, Problemlösen und Entscheidungsfindung. Im medizinischen Kontext ist KI ein Überbegriff für eine Vielzahl von Technologien und Methoden.  

Maschinelles Lernen (ML) ist ein Teilbereich der KI, bei dem Systeme aus Daten lernen, Muster erkennen und Vorhersagen treffen, ohne explizit für jede einzelne Aufgabe programmiert zu werden. Algorithmen des Maschinellen Lernens verbessern ihre Leistung durch Erfahrung, d.h. durch die Analyse großer Datenmengen (“Trainingsdaten”).  

Deep Learning ist eine spezielle Methode des Maschinellen Lernens, die auf künstlichen neuronalen Netzen mit vielen Schichten (tiefen Architekturen) basiert. Diese Netze sind in der Lage, sehr komplexe Muster in großen Datensätzen zu erkennen, was sie besonders geeignet für Aufgaben wie die medizinische Bildanalyse oder die Genomik macht.  

Generative KI, zu der auch Large Language Models (LLMs) wie ChatGPT gehören, bezeichnet KI-Systeme, die neue Inhalte wie Texte, Bilder oder Code erzeugen können. Im Gesundheitswesen könnten sie beispielsweise zur Erstellung von Arztbriefentwürfen, zur Zusammenfassung von Patientenakten oder als intelligente Chatbots in der Patientenkommunikation eingesetzt werden.  

Es wird oft zwischen schwacher (oder enger) KI und starker (oder allgemeiner) KI unterschieden. Schwache KI ist auf die Lösung spezifischer Aufgaben spezialisiert (z.B. die Erkennung von Tumoren in CT-Bildern). Nahezu alle derzeit im Gesundheitswesen eingesetzten oder in Entwicklung befindlichen KI-Systeme fallen in diese Kategorie. Starke KI würde eine menschenähnliche Intelligenz über ein breites Spektrum von Aufgaben hinweg aufweisen und ist derzeit noch Gegenstand theoretischer Forschung.

Die Definition von KI im medizinischen Kontext muss von Beginn an die ethischen und verantwortungsbezogenen Dimensionen mitdenken. Da KI-gestützte Systeme Entscheidungen treffen oder maßgeblich unterstützen, die direkte Auswirkungen auf die Gesundheit und das Leben von Menschen haben können, ist eine rein technische Definition unzureichend. Aspekte wie Vertrauenswürdigkeit, Nachvollziehbarkeit der Entscheidungen (Erklärbarkeit), Fairness, Sicherheit und die Notwendigkeit menschlicher Kontrolle und Letztverantwortung müssen integraler Bestandteil des Verständnisses und der Entwicklung von medizinischer KI sein. Dieser Bericht wird diese Dimensionen daher durchgängig berücksichtigen. Die Digitalisierung des Gesundheitswesens, einschließlich der Verfügbarkeit strukturierter und qualitativ hochwertiger Daten, bildet die unerlässliche Grundlage für den sinnvollen und effektiven Einsatz jeglicher Form von KI.  

2. Aktueller Stand und Trends der KI-Integration in Deutschland

Verbreitung und Nutzungsgrad von KI-Lösungen im deutschen Gesundheitssektor

Die Integration von Künstlicher Intelligenz in das deutsche Gesundheitswesen schreitet voran, jedoch im internationalen Vergleich, insbesondere gegenüber den USA, eher verhalten. Laut einer Studie von Corti setzen lediglich 25% der Gesundheitsfachkräfte in Deutschland KI im Arbeitsalltag ein, während es in den Vereinigten Staaten bereits 38% sind. Obwohl eine grundsätzliche Offenheit gegenüber KI besteht – 44% der deutschen Fachkräfte vertrauen der Technologie grundsätzlich – fühlen sich 27% im Umgang damit unsicher. Diese Diskrepanz zwischen dem wahrgenommenen Potenzial und der praktischen Anwendungskompetenz ist ein signifikanter Faktor.  

Die Studie identifiziert eine sogenannte “Pilot-Paralyse”: Viele KI-Projekte kommen über ein experimentelles Stadium nicht hinaus, da Probleme bei der Genauigkeit der Systeme, den Implementierungskosten und der nahtlosen Integration in bestehende IT-Infrastrukturen und Arbeitsabläufe den Fortschritt bremsen. Eine PwC-Studie stützt diese Beobachtung und weist auf die zögerliche Haltung vieler Führungskräfte bei der Integration von KI in den medizinischen Alltag hin; erst 30 Prozent nutzten zum Zeitpunkt der Studie bereits KI-Lösungen.  

Im Bereich der generativen KI zeigt sich ein etwas anderes Bild. Hier nutzen bereits rund 44% der deutschen Onlinebevölkerung entsprechende Werkzeuge, allerdings zumeist noch selten und nicht tief im Alltag integriert. Im Unternehmenskontext ist die Adaption weiter fortgeschritten: In einem Viertel der befragten deutschen Unternehmen haben über 60% der Mitarbeitenden Zugang zu generativen KI-Tools, und 23% dieser Unternehmen setzen sie täglich ein – mehr als doppelt so viele wie im weltweiten Durchschnitt. Dieser Unterschied verdeutlicht, dass der Transfer allgemeiner KI-Trends in den hochsensiblen und stark regulierten Gesundheitsbereich spezifische Herausforderungen mit sich bringt. Die Anforderungen an Validierung, Datenschutz, Sicherheit und ethische Vertretbarkeit sind im Gesundheitswesen ungleich höher. Allgemeine Modelle sind oft nicht direkt übertragbar, was die Notwendigkeit spezialisierter, validierter KI-Modelle für das Gesundheitswesen unterstreicht, wie sie beispielsweise von Corti entwickelt werden.  

Die “Pilot-Paralyse” ist dabei nicht nur ein deutsches Phänomen, sondern oft typisch für komplexe, hochregulierte Sektoren. Die festgestellte Lücke zwischen dem theoretischen Vertrauen in KI und der praktischen Unsicherheit im Umgang deutet darauf hin, dass es nicht primär an der Technologie selbst oder am Wissen über deren Potenzial mangelt. Vielmehr dürften die Komplexität der Integration in bestehende, oft heterogene und teilweise veraltete IT-Systeme in Krankenhäusern, gepaart mit unklaren Return-on-Investment-Berechnungen für Pilotprojekte und dem Mangel an standardisierten Schnittstellen, zu dieser Lähmung beitragen. Oft fehlt es auch an einer klaren, von der Klinikleitung getragenen Gesamtstrategie für die Digitalisierung und KI-Einführung. Um von vielversprechenden Pilotprojekten zu einer breiten und nachhaltigen Anwendung zu gelangen, bedarf es daher nicht nur besserer Technologien, sondern auch klarerer Implementierungsleitfäden, des Austauschs von Best Practices und möglicherweise gezielter finanzieller Anreize. Ein professionelles Change Management ist hierbei von entscheidender Bedeutung.  

Herausforderungen bei der KI-Implementierung

Die Implementierung von KI im deutschen Gesundheitswesen ist mit einer Reihe signifikanter Herausforderungen verbunden:

• Vertrauen und Akzeptanz: Die größten Bedenken aufseiten der Fachkräfte betreffen die Fehleranfälligkeit von KI-Systemen (51%) und den Datenschutz (35%). Der Aufbau von Vertrauen durch positive Nutzungserfahrungen, transparente Kommunikation und umfassende Aufklärung ist daher essenziell. Die Akzeptanz der Belegschaft wird als ein Schlüsselfaktor für den Erfolg von KI-Projekten angesehen.  
• Datenmanagement und -qualität: Eine der größten Hürden ist die Verfügbarkeit qualitativ hochwertiger, standardisierter und interoperabler Daten. Es mangelt oft an einer konsistenten Datenbasis, und die Datenqualität, -quantität sowie -vielfalt sind häufig unzureichend für das Training robuster KI-Modelle. Die Entwicklung einer umfassenden Datenstrategie ist daher unerlässlich.  
• Kosten und Ressourcen: Die Einführung von KI-Systemen erfordert erhebliche Investitionen in Technologie, Infrastruktur und qualifiziertes Personal. Diese initialen Kosten können insbesondere für kleinere Einrichtungen eine große Hürde darstellen.  
• Regulatorische Komplexität: Die Navigation durch das komplexe Geflecht von Datenschutzbestimmungen (DSGVO), dem EU AI Act und spezifischen Medizinproduktevorschriften (MDR) erzeugt Unsicherheit und bindet Ressourcen.  
• Integration in bestehende Systeme: Die Einbindung neuer KI-Lösungen in etablierte Krankenhausinformationssysteme (KIS) und bestehende klinische Arbeitsabläufe gestaltet sich oft schwierig und aufwendig. Fehlende Standardschnittstellen und Interoperabilitätsprobleme sind hierbei zentrale Punkte.  
• Fachkräftemangel und Weiterbildung: Es besteht ein erheblicher Mangel an Fachkräften mit spezifischen KI-Kompetenzen im Gesundheitssektor. Gleichzeitig ist ein dringender Bedarf an Schulungs- und Weiterbildungsmaßnahmen für das vorhandene medizinische und administrative Personal zu verzeichnen, um den sicheren und effektiven Umgang mit KI zu gewährleisten.  

Unterschiede in der KI-Nutzung

Die Akzeptanz und Nutzung von KI-Technologien im deutschen Gesundheitswesen ist nicht homogen, sondern weist deutliche Unterschiede zwischen verschiedenen Gruppen und Bereichen auf:

• Berufsgruppen: Ärzte zeigen mit 35% eine höhere Nutzungsrate von KI als das Pflegepersonal, von dem nur 14% KI-Anwendungen einsetzen. Auch jüngere Gesundheitsfachkräfte (18-24 Jahre) sind mit 32% monatlicher Nutzung deutlich aktiver als ihre älteren Kollegen über 55 Jahre (16%).  
• Geschlechtsspezifische Unterschiede: Männer (33%) nutzen KI im beruflichen Kontext häufiger als Frauen (17%). 69% der weiblichen Fachkräfte gaben an, noch nie mit KI gearbeitet zu haben, im Vergleich zu 54% bei den Männern.  
• Anwendungsbereiche: Der Einsatz von KI konzentriert sich bisher stark auf die Bereiche Diagnostik, insbesondere die Radiologie, und administrative Aufgaben. Anwendungen in der direkten Patientenbehandlung, der Triage oder der pflegerischen Versorgung sind weniger verbreitet.  

Diese ungleiche Verteilung der KI-Nutzung birgt die Gefahr, bestehende Hierarchien und Ungleichheiten im Gesundheitswesen weiter zu vertiefen, wenn nicht aktiv gegengesteuert wird. Die Vorteile der KI, wie Entlastung bei Routineaufgaben oder verbesserter Zugang zu Fachwissen, könnten ungleich verteilt werden. Insbesondere Pflegeberufe, die häufig weiblich dominiert sind und stark von KI-gestützter Entlastung bei Dokumentations- oder Überwachungsaufgaben profitieren könnten, werden in der aktuellen Entwicklung und Implementierung von KI-Lösungen möglicherweise noch nicht ausreichend berücksichtigt. Es ist denkbar, dass der Zugang zu Schulungen und die Ausrichtung der entwickelten KI-Tools bisher stärker auf ärztliche Tätigkeiten fokussiert sind. Um eine “digitale Spaltung” innerhalb des Gesundheitssektors zu vermeiden, sind daher gezielte Weiterbildungsangebote und die Entwicklung von KI-Werkzeugen notwendig, die spezifisch auf die Bedürfnisse aller Gesundheitsfachberufe, insbesondere der Pflege, zugeschnitten sind.  

3. Anwendungsfelder der Künstlichen Intelligenz im deutschen Gesundheitswesen

Künstliche Intelligenz eröffnet eine breite Palette von Anwendungsmöglichkeiten im deutschen Gesundheitswesen, die von der Unterstützung diagnostischer Prozesse über die Personalisierung von Therapien bis hin zur Optimierung administrativer Abläufe und der Beschleunigung medizinischer Forschung reichen. Die Entwicklungstiefe und Marktreife dieser Anwendungen variieren jedoch erheblich.

Diagnostik und Früherkennung

Bildgebende Verfahren (Radiologie, Pathologie)

Ein bereits etabliertes und stark wachsendes Feld für KI-Anwendungen ist die medizinische Bildgebung. KI-Systeme, insbesondere solche, die auf Deep Learning basieren, können Radiologen und Pathologen bei der Analyse und Interpretation von Bildern aus verschiedenen Modalitäten wie Röntgen, Computertomographie (CT), Magnetresonanztomographie (MRT) und Mammographie unterstützen. Zu den konkreten Anwendungen zählen:  

• Erkennung von Anomalien: KI-Algorithmen werden trainiert, um subtile Muster und Anomalien in Bildern zu erkennen, die auf Krankheiten wie Krebs (z.B. Prostatakrebs, Lungenkrebs, Brustkrebs), neurologische Erkrankungen (z.B. Demenz, Multiple Sklerose, intrakranielle Blutungen) oder kardiovaskuläre Veränderungen hindeuten. In der Praxis in Mannheim kommt beispielsweise KI bei der Prostatakrebs- und Hirnvolumendiagnostik erfolgreich zum Einsatz, wobei Auffälligkeiten sehr sensitiv erkannt werden.  
• Standardisierung und Objektivierung: KI kann dazu beitragen, die Auswertung medizinischer Bilder zu standardisieren und zu objektivieren, was die Vergleichbarkeit von Befunden verbessert und die Variabilität zwischen verschiedenen Untersuchern reduziert.  
• Unterstützung und Effizienzsteigerung: Systeme wie der “AI-Rad Companion” von Siemens Healthineers oder die Lösungen von mediaire für die Neuroradiologie können Auffälligkeiten automatisch markieren, quantitative Analysen durchführen (z.B. Hirnvolumetrie) und so Radiologen entlasten und die Befundungsgeschwindigkeit erhöhen. Smart Reporting aus München hat KI erfolgreich in ein medizinisches Dokumentationssystem integriert, wodurch Radiologen ihre Befunde in weniger als der Hälfte der Zeit erstellen können. Die Bundesärztekammer erkennt die Bedeutung von KI in der Bilddatenanalyse in Radiologie, Pathologie und Dermatologie an.  

Digitale Gesundheitsanwendungen (DiGAs) und Symptom-Checker

Digitale Gesundheitsanwendungen, oft als “Apps auf Rezept” bezeichnet, nutzen zunehmend KI-Komponenten, um Patienten bei der Prävention, Diagnoseunterstützung und dem Management von Erkrankungen zu begleiten.

• Beispiele für solche DiGAs sind die App “Mika”, die Krebspatienten digital unterstützt, indem sie Informationen bereitstellt und personalisierte Empfehlungen zu Bewegung, Ernährung und psychischer Resilienz gibt, basierend auf einem digitalen Symptom-Tagebuch. Die App “Diafyt” für Typ-1-Diabetes-Patienten ermittelt mithilfe eines smarten Insulin-Pens und KI den individuellen Insulinbedarf und gibt Dosierungsempfehlungen.  
• Sogenannte Symptom-Checker wie die App “Ada” nutzen KI, um Nutzern auf Basis ihrer eingegebenen Symptome und eines interaktiven Frage-Antwort-Dialogs erste Hinweise auf mögliche Ursachen oder Erkrankungen zu geben und gegebenenfalls eine ärztliche Konsultation zu empfehlen. Solche DiGAs, die auch KI-Funktionen enthalten können, durchlaufen in Deutschland ein Prüfverfahren beim Bundesinstitut für Arzneimittel und Medizinprodukte (BfArM), bevor sie in das DiGA-Verzeichnis aufgenommen und von Ärzten verschrieben werden können.  

Genomik und Prädiktive Diagnostik

Die Analyse großer Mengen genomischer Daten mittels KI eröffnet neue Möglichkeiten in der prädiktiven Diagnostik und der personalisierten Medizin.

• KI-Algorithmen können komplexe Muster in genetischen Daten erkennen, um individuelle Risikoprofile für verschiedene Krankheiten zu erstellen.  
• Sie unterstützen die Identifizierung spezifischer genetischer Varianten, die für die Auswahl der optimalen Medikation oder Therapie relevant sind, und können helfen, selbst seltene genetische Muster zu erkennen, die auf bestimmte Erkrankungen hindeuten.  

Therapieplanung und Personalisierte Medizin

Die Vision der personalisierten Medizin, bei der Behandlungsstrategien exakt auf die individuellen Merkmale eines Patienten zugeschnitten werden, rückt durch den Einsatz von KI näher. KI-Systeme können riesige Mengen an Patientendaten – darunter klinische Befunde, Bildgebungsdaten, Laborwerte, genetische Profile und Informationen zur Lebensweise – analysieren, um präzisere Prognosen zu erstellen und individualisierte Therapieempfehlungen zu generieren.  

• Ein vielversprechendes Forschungsprojekt in Deutschland ist AI4Nof1, das Methoden des Reinforcement Learning nutzt, um adaptive “N-of-1”-Studien durchzuführen. Hier wird nicht die Wirksamkeit einer Behandlung für eine große Gruppe untersucht, sondern ermittelt, welche Intervention für eine einzelne Person am besten funktioniert, beispielsweise bei der Behandlung des Reizdarmsyndroms.  
• Das Leibniz KI Labor forscht an KI-Anwendungen für verschiedene Krankheitsbilder, darunter die personalisierte Diagnostik und Therapie bei Brustkrebs und Leukämie, die Subtypisierung von Parkinson-Patienten und die Früherkennung von Organversagen auf Kinderintensivstationen.  
• KI-Systeme können Ärzte bei Therapieentscheidungen unterstützen, indem sie Behandlungsleitlinien, aktuelle Forschungsergebnisse und individuelle Patientendaten abgleichen und so fundierte, datenbasierte Vorschläge unterbreiten.  

Krankenhausmanagement und administrative Prozesse

Ein erhebliches Potenzial der KI liegt in der Entlastung des medizinischen und administrativen Personals von zeitaufwendigen Routineaufgaben und der Optimierung von Abläufen im Krankenhaus.

Workflow-Optimierung und Ressourcenplanung

KI kann zur Automatisierung und Effizienzsteigerung zahlreicher administrativer Aufgaben in Bereichen wie Controlling, Personalwesen, Einkauf und Finanzmanagement beitragen.  

• Intelligente Systeme können historische Daten analysieren, um zukünftige Bedarfe an Personal, Material oder Bettenkapazitäten präziser zu prognostizieren.  
• Die Optimierung der OP-Planung, die Vorhersage der Verweildauer von Patienten und die Steuerung der Auslastung bei Überweisungen sind weitere Anwendungsfelder. Der Wunsch nach Reduzierung von Verwaltungsaufgaben ist bei Fachkräften groß (40% Nennung) , und die durch KI gewonnene Zeit würden viele (45%) für die direkte Patientenbetreuung nutzen. Dies ist nicht nur ein Effizienzgewinn, sondern könnte auch ein wichtiger Hebel sein, um dem Fachkräftemangel zu begegnen und die Arbeitszufriedenheit zu erhöhen.  

Automatisierte Dokumentation (Arztbriefe, Kodierung)

Die medizinische Dokumentation ist ein extrem zeitaufwendiger Prozess, der durch KI erheblich beschleunigt werden kann.

• KI-gestützte Transkription: Systeme zur automatischen Transkription von Arzt-Patienten-Gesprächen in Echtzeit können die Dokumentationszeit um 25-70% reduzieren.  
• Automatische Erstellung von Arztbriefen und Berichten: Generative KI-Modelle können auf Basis von Stichpunkten, Patientendaten oder transkribierten Gesprächen Entwürfe für Arztbriefe, OP-Berichte oder klinische Notizen erstellen. Ein Pilotprojekt zur Erstellung personalisierter Pflegepläne mittels KI in Caritas-Pflegeeinrichtungen zeigte eine Reduktion des administrativen Aufwands um 80%.  
• KI-gestützte Kodierung: KI-Systeme können Arztbriefe und Befunde analysieren und automatisch passende ICD-10- oder OPS-Codes für die Abrechnung vorschlagen, wodurch Prozesse beschleunigt und Fehler reduziert werden.  

KI-Chatbots und Patientenkommunikation

Intelligente Chatbots können die Kommunikation mit Patienten unterstützen und administrative Prozesse erleichtern.

• Sie können rund um die Uhr Patientenfragen beantworten, bei der Ersteinschätzung von Symptomen helfen, Termine planen oder Informationen zu Behandlungen bereitstellen.  
• Der T-Systems SmartChat ist ein Beispiel für eine KI-Chatbot-Lösung, die speziell für das Gesundheitswesen entwickelt wurde und die besonderen Datenschutzanforderungen der Branche berücksichtigt.  

Operative und interventionelle Medizin

Auch im operativen Bereich hält KI Einzug, vor allem durch roboterassistierte Systeme.

• Roboterassistierte Chirurgie: Systeme wie das Da-Vinci-Operationssystem ermöglichen eine höhere Präzision bei Eingriffen, eine bessere Visualisierung des Operationsfeldes und minimalinvasivere Vorgehensweisen, was zu kürzeren Erholungszeiten und weniger Komplikationen führen kann. KI kann auch bei der präzisen Positionierung von Instrumenten und der Navigation während der Operation unterstützen. Ein Beispiel ist die “Robotic Eye Surgery” beim Grauen Star, wo ein KI-gesteuerter Laser hochpräzise Schritte ausführt.  
• Augmented Reality (AR) im OP: AR-Brillen können Chirurgen zusätzliche Informationen, wie präoperative Bilddaten oder Vitalparameter, direkt ins Sichtfeld einblenden und so die Orientierung und Entscheidungsfindung während des Eingriffs verbessern.  

Forschung und Entwicklung

KI ist ein mächtiges Werkzeug zur Beschleunigung der medizinischen Forschung und der Entwicklung neuer Medikamente und Therapien.

• Wirkstoffforschung: KI-Algorithmen können riesige Datenbanken mit molekularen Strukturen und biologischen Aktivitätsdaten analysieren, um potenzielle neue Wirkstoffkandidaten zu identifizieren, deren Wirksamkeit und Toxizität vorherzusagen und so den langwierigen und kostspieligen Prozess der Medikamentenentwicklung zu beschleunigen.  
• Analyse klinischer Studiendaten: KI kann bei der Auswertung großer und komplexer Datensätze aus klinischen Studien helfen, um neue Erkenntnisse über Krankheitsmechanismen zu gewinnen oder die Effektivität von Behandlungen besser zu verstehen.  
• Epidemiologische Untersuchungen: Digitale Lösungsansätze und KI haben das Potenzial, epidemiologische Untersuchungen zu verbessern, die Analyse von Wirkungen und unerwarteten Nebenwirkungen sicherer zu machen und wissenschaftlich-regulatorische Entscheidungen zu beschleunigen.  

Die Breite dieser Anwendungsfelder zeigt, dass KI das Potenzial hat, nahezu jeden Aspekt des Gesundheitswesens zu durchdringen. Allerdings ist die Entwicklungstiefe und Marktreife in den verschiedenen Bereichen sehr unterschiedlich. Tendenziell ist die Akzeptanz und Implementierung in Bereichen mit klarem, messbarem Nutzen (z.B. Zeitersparnis in der Dokumentation, Genauigkeitssteigerung in der Bilderkennung) höher. Komplexere Anwendungen, die direkt in Therapieentscheidungen eingreifen oder hohe ethische Anforderungen stellen, befinden sich oft noch im Forschungs- oder Pilotstadium. Der Reifegrad von KI-Anwendungen korreliert häufig mit der Einfachheit ihrer Validierung, der Klarheit des Return on Investment und der Komplexität der Integration in bestehende klinische und ethische Rahmenbedingungen. Um das volle Potenzial der KI zu heben, müssen daher nicht nur Technologien weiterentwickelt, sondern auch Validierungsstandards, Integrationspfade und ethische Leitplanken für komplexere Anwendungen geschaffen werden.

Dabei scheinen spezialisierte KI-Modelle im Gesundheitswesen oft besser geeignet als allgemeine Modelle, was die Bedeutung von domänenspezifischem Training und Validierung unterstreicht. Die Corti-Studie argumentiert, dass spezialisierte Modelle präziser, schneller und sicherer sind als allgemeine KI-Modelle wie GPT-4 im Gesundheitskontext. Beispiele wie “Mika” für Krebspatienten oder “Diafyt” für Diabetes sind auf spezifische Krankheitsbilder zugeschnitten. Die Komplexität und Sensitivität medizinischer Daten und Prozesse erfordern KI-Systeme, die auf die spezifischen Nuancen und Anforderungen des jeweiligen medizinischen Fachgebiets trainiert und validiert wurden. Investitionen in die Erstellung hochwertiger, domänenspezifischer Datensätze und in die Entwicklung spezialisierter KI-Architekturen sind daher entscheidend für den Erfolg von KI im Gesundheitswesen und erfordern eine enge Zusammenarbeit zwischen KI-Entwicklern und medizinischen Experten.  

Tabelle 1: Ausgewählte KI-Anwendungen im deutschen Gesundheitswesen

 

Diese Tabelle bietet eine strukturierte Übersicht über die vielfältigen KI-Anwendungen und ermöglicht es den verschiedenen Zielgruppen, schnell die für sie relevanten Informationen zu identifizieren und eine ausgewogene Perspektive auf Nutzen und Herausforderungen zu gewinnen.

4. Regulatorische Rahmenbedingungen und Compliance-Anforderungen

Der Einsatz von Künstlicher Intelligenz im deutschen Gesundheitswesen bewegt sich in einem komplexen regulatorischen Spannungsfeld. Mehrere Gesetze und Verordnungen auf EU- und nationaler Ebene definieren die Anforderungen an Entwicklung, Einsatz und Überwachung von KI-Systemen, insbesondere wenn es um sensible Gesundheitsdaten und Medizinprodukte geht. Die Kumulation und teilweise Überlappung dieser Regelwerke schafft ein anspruchsvolles Compliance-Umfeld, das insbesondere für innovative Start-ups und kleine bis mittlere Unternehmen (KMU) eine Herausforderung darstellen kann.

Überblick über relevante Gesetze und Verordnungen

EU AI Act

Die EU-Verordnung über Künstliche Intelligenz (AI Act), die am 1. August 2024 in Kraft getreten ist, etabliert einen harmonisierten Rechtsrahmen für KI innerhalb der Europäischen Union. Der AI Act verfolgt einen risikobasierten Ansatz: Je höher das potenzielle Risiko eines KI-Systems für Gesundheit, Sicherheit oder Grundrechte ist, desto strenger sind die Anforderungen.  

• Hochrisiko-KI-Systeme: Viele KI-Anwendungen im Gesundheitswesen, insbesondere solche, die als Komponenten von Medizinprodukten dienen oder für diagnostische und therapeutische Entscheidungen eingesetzt werden, fallen unter die Kategorie der Hochrisiko-KI-Systeme (gemäß Art. 6 und Anhang III bzw. Anhang I des AI Acts). Für diese Systeme gelten weitreichende Verpflichtungen, darunter die Einrichtung eines Risikomanagementsystems, die Sicherstellung hoher Datenqualität und Data Governance, die Erstellung einer umfassenden technischen Dokumentation, die Gewährleistung von Transparenz und Nachvollziehbarkeit, die Implementierung menschlicher Aufsicht, die Einhaltung von Robustheits- und Cybersicherheitsstandards sowie die Durchführung einer Konformitätsbewertung, oft unter Einbeziehung einer Benannten Stelle.  
• Verbotene KI-Systeme: Bestimmte KI-Praktiken, die ein inakzeptables Risiko darstellen (z.B. Social Scoring durch Behörden oder manipulative Systeme, die menschliches Verhalten gezielt beeinflussen und Schaden verursachen können), sind gemäß Art. 5 AI Act verboten.  
• Systeme mit begrenztem und minimalem Risiko: Für KI-Systeme mit begrenztem Risiko (z.B. Chatbots) gelten primär Transparenzpflichten. Systeme mit minimalem Risiko unterliegen keinen spezifischen Verpflichtungen, werden aber zur Einhaltung freiwilliger Verhaltenskodizes ermutigt.
• Übergangsfristen: Der AI Act sieht gestaffelte Übergangsfristen für die Anwendung seiner Bestimmungen vor. Beispielsweise treten die Regelungen für Hochrisiko-KI-Systeme gemäß Anhang III (eigenständige KI-Systeme) im August 2026 in Kraft, während die Pflichten für Hochrisiko-KI-Systeme nach Anhang I (KI als Sicherheitskomponente in Produkten wie Medizinprodukten) ab August 2027 gelten.  

Datenschutz-Grundverordnung (DSGVO)

Die DSGVO ist das zentrale Datenschutzgesetz in der EU und spielt eine überragende Rolle beim Einsatz von KI im Gesundheitswesen, da hier typischerweise große Mengen personenbezogener und oft hochsensibler Gesundheitsdaten verarbeitet werden.

• Besonderer Schutz von Gesundheitsdaten: Gesundheitsdaten sind gemäß Art. 9 DSGVO als besondere Kategorien personenbezogener Daten eingestuft, deren Verarbeitung grundsätzlich untersagt ist, es sei denn, es liegt eine spezifische Ausnahmebedingung vor, wie die ausdrückliche Einwilligung der betroffenen Person oder eine gesetzliche Erlaubnis (z.B. für Zwecke der Gesundheitsversorgung oder wissenschaftlichen Forschung unter bestimmten Voraussetzungen).  
• Grundsätze der Datenverarbeitung: Jede Verarbeitung personenbezogener Daten durch KI-Systeme muss den Grundsätzen der Rechtmäßigkeit, Verarbeitung nach Treu und Glauben, Transparenz, Zweckbindung, Datenminimierung, Richtigkeit, Speicherbegrenzung sowie Integrität und Vertraulichkeit genügen (Art. 5 DSGVO).  
• Datenschutz-Folgenabschätzung (DSFA): Bei Verarbeitungsvorgängen, die voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge haben – was beim Einsatz von KI zur Verarbeitung von Gesundheitsdaten häufig der Fall ist – ist gemäß Art. 35 DSGVO eine DSFA durchzuführen.  
• Technische und organisatorische Maßnahmen (TOMs): Verantwortliche müssen geeignete TOMs implementieren, um die Sicherheit der Verarbeitung zu gewährleisten und die Datenschutzgrundsätze umzusetzen (Art. 25 und 32 DSGVO), z.B. durch Pseudonymisierung, Verschlüsselung und Zugriffskontrollen.  

Medizinprodukteverordnung (MDR) und Zertifizierung von KI-Software

Software, einschließlich KI-basierter Software, die für medizinische Zwecke bestimmt ist (z.B. Diagnose, Therapie, Überwachung), kann als Medizinprodukt eingestuft werden und unterliegt dann den strengen Anforderungen der europäischen Medizinprodukteverordnung (MDR, Verordnung (EU) 2017/745).  

• Anforderungen: Die MDR stellt hohe Anforderungen an die Sicherheit und Leistungsfähigkeit von Medizinprodukten. Hersteller müssen eine klinische Bewertung durchführen, ein Risikomanagementsystem nach ISO 14971 implementieren, ein Qualitätsmanagementsystem nach ISO 13485 unterhalten und spezifische Prozesse für den Software-Lebenszyklus gemäß IEC 62304 befolgen.  
• Herausforderung des kontinuierlichen Lernens: Eine besondere Herausforderung bei KI-basierten Medizinprodukten ist der Umgang mit kontinuierlich lernenden Systemen. Die MDR basiert tendenziell auf einer statischen Zulassung zu einem bestimmten Zeitpunkt, während sich lernende KI-Systeme nach ihrer Markteinführung weiterentwickeln können. Dies wirft Fragen hinsichtlich der Aufrechterhaltung der Konformität und Sicherheit auf. Bestehende regulatorische Rahmenwerke sind möglicherweise nicht ausreichend flexibel, um mit der Geschwindigkeit der KI-Entwicklung Schritt zu halten. Es bedarf daher neuer Ansätze für eine “dynamische Sicherheitsüberwachung” oder “adaptive Zertifizierung”. Forschung und Entwicklung im Bereich der Validierung und Verifizierung kontinuierlich lernender KI-Systeme sind hier entscheidend.  

Digitale-Versorgung-Gesetz (DVG) und Gesundheitsdatennutzungsgesetz (GDNG)

Nationale Gesetze ergänzen den EU-Rahmen und schaffen spezifische Bedingungen für die Digitalisierung im deutschen Gesundheitswesen.

• Das Digitale-Versorgung-Gesetz (DVG) hat den Weg für Digitale Gesundheitsanwendungen (DiGA) geebnet, die von Ärzten verschrieben und von den gesetzlichen Krankenkassen erstattet werden können. DiGAs sind Medizinprodukte niedriger Risikoklassen und können KI-Komponenten enthalten.  
• Das Gesundheitsdatennutzungsgesetz (GDNG), das im März 2024 in Kraft trat, zielt darauf ab, die Nutzung von Gesundheitsdaten für Forschungszwecke und zur Verbesserung der Versorgung zu erleichtern und Deutschland auf den European Health Data Space (EHDS) vorzubereiten. Es regelt unter anderem den Zugriff auf und die Nutzung von pseudonymisierten Daten aus der elektronischen Patientenakte (ePA) und Abrechnungsdaten der Krankenkassen für gemeinwohlorientierte Zwecke, einschließlich KI-basierter Forschung. Das GDNG ist ein wichtiger Schritt zur Verbesserung der Datenverfügbarkeit, aber sein Erfolg wird maßgeblich von der praktischen Umsetzung, der technischen Infrastruktur (z.B. der Forschungsdatenzentren ) und der Akzeptanz bei Patienten und Leistungserbringern abhängen. Ohne eine klare Kommunikation des Nutzens, robuste Sicherheitsmaßnahmen und transparente Prozesse für die Datennutzung könnte das GDNG sein Potenzial nicht voll entfalten.  

Der hohe Aufwand für die Erfüllung aller dieser Compliance-Anforderungen bindet erhebliche Ressourcen und könnte die Markteinführung innovativer KI-Lösungen verlangsamen, wenn nicht adäquate Unterstützungsstrukturen und klare, praxisnahe Leitfäden bereitgestellt werden. Es besteht ein dringender Bedarf an harmonisierten Auslegungen der verschiedenen Regelwerke, standardisierten Prüfverfahren und Beratungsangeboten, um die Innovationskraft nicht zu ersticken und gleichzeitig ein hohes Schutzniveau zu gewährleisten.  

Anforderungen an Datensicherheit, Interoperabilität und technische Dokumentation

Unabhängig von den spezifischen Gesetzen ergeben sich grundlegende Anforderungen für den Einsatz von KI im Gesundheitswesen:

• Datensicherheit: Der Schutz sensibler Patientendaten hat höchste Priorität. Es müssen robuste technische und organisatorische Maßnahmen implementiert werden, um unbefugten Zugriff, Verlust oder Missbrauch von Daten zu verhindern (z.B. Verschlüsselung, Zugriffskontrollen, regelmäßige Sicherheitsaudits).  
• Interoperabilität: Für einen effektiven Datenaustausch zwischen verschiedenen KI-Systemen, Krankenhausinformationssystemen (KIS) und anderen Datenquellen sind standardisierte Schnittstellen und Datenformate unerlässlich (z.B. FHIR, DICOM). Mangelnde Interoperabilität ist eine der Hauptursachen für Datensilos und behindert die Entwicklung und den Einsatz von KI.  
• Technische Dokumentation: Insbesondere für Hochrisiko-KI-Systeme gemäß AI Act (Art. 11) und für Medizinprodukte gemäß MDR ist eine umfassende technische Dokumentation erforderlich. Diese muss Informationen über das Design, die Entwicklung, die Validierung, die Leistungsfähigkeit und die Risikobewertung des Systems enthalten und den zuständigen Behörden zur Überprüfung vorgelegt werden können.  

Rolle von Behörden (z.B. BfArM, nationale KI-Aufsichtsbehörde)

Verschiedene Behörden spielen eine Rolle bei der Überwachung und Regulierung von KI im Gesundheitswesen:

• Das Bundesinstitut für Arzneimittel und Medizinprodukte (BfArM) ist in Deutschland unter anderem zuständig für die Bewertung und Zulassung von Medizinprodukten, einschließlich KI-basierter Software, sowie für die Aufnahme von DiGAs in das offizielle Verzeichnis.  
• Gemäß dem EU AI Act muss bis August 2025 eine nationale KI-Aufsichtsbehörde benannt werden. Diese wird für die Überwachung der Einhaltung des AI Acts, die Beratung von Unternehmen und potenziell für die Zulassung oder Marktüberwachung von Hochrisiko-KI-Systemen zuständig sein. Die IHK München fordert hier eine zentrale Bundesbehörde, um einen Flickenteppich von Länderbehörden zu vermeiden.  

Tabelle 2: Wesentliche rechtliche Rahmenbedingungen für KI im deutschen Gesundheitswesen

 

Diese Tabelle dient als Orientierungshilfe im komplexen regulatorischen Umfeld und verdeutlicht die vielfältigen Anforderungen, denen Anbieter und Nutzer von KI-Systemen im deutschen Gesundheitswesen begegnen.

5. Ethische Dimensionen des KI-Einsatzes in der Medizin

Der Einsatz von Künstlicher Intelligenz in der Medizin wirft tiefgreifende ethische Fragen auf, die über rein technische oder regulatorische Aspekte hinausgehen. Im Mittelpunkt stehen die Wahrung der menschlichen Würde, Autonomie und des Wohls der Patientinnen und Patienten sowie die Sicherstellung einer gerechten und verantwortungsvollen Nutzung dieser mächtigen Technologie. Die Auseinandersetzung mit diesen ethischen Dimensionen ist entscheidend für den Aufbau von Vertrauen und die gesellschaftliche Akzeptanz von KI im Gesundheitswesen.

Wahrung der ärztlichen Verantwortung und menschlichen Aufsicht

Ein zentraler ethischer Grundsatz ist, dass die Letztverantwortung für medizinische Diagnosen und Therapieentscheidungen stets bei der behandelnden Ärztin oder dem behandelnden Arzt verbleiben muss. KI-Systeme dienen als Unterstützungswerkzeuge (Clinical Decision Support Systems, CDSS), dürfen aber menschliche Expertise und Urteilskraft nicht ersetzen. Die Stellungnahme der Zentralen Ethikkommission bei der Bundesärztekammer (ZEKO) betont, dass die Grenze zwischen Entscheidungsassistenz und automatisierter Entscheidung nicht überschritten werden darf. Die Notwendigkeit einer menschlichen Überprüfung und der Möglichkeit zur Intervention bei KI-generierten Empfehlungen (“Human-in-the-Loop”-Prinzip) ist sowohl ethisch geboten als auch rechtlich im AI Act verankert (Art. 14 AI Act). Dies dient auch der Vermeidung von Phänomenen wie dem “Automation Bias”, also der unkritischen Übernahme von KI-Vorschlägen, oder der “Alert Fatigue”, bei der eine Flut von Warnmeldungen zu Abstumpfung führt. Das ärztliche Erfahrungswissen und die Fähigkeit, den Gesamtkontext des Patienten zu erfassen, bleiben unerlässlich.  

Patientenautonomie und informierte Einwilligung

Die Autonomie der Patientinnen und Patienten muss beim Einsatz von KI gewahrt bleiben. Dies erfordert, dass Patient:innen transparent und verständlich über den Einsatz von KI-Systemen in ihrer Behandlung aufgeklärt werden und ihre informierte Einwilligung dazu geben, insbesondere wenn ihre personenbezogenen Gesundheitsdaten verarbeitet werden. Die ZEKO warnt vor einem “Computer-Paternalismus”, bei dem automatisierte Empfehlungen ohne eine fundierte, selbstbestimmte Entscheidung der Patient:innen umgesetzt werden. Ein “werte-sensitives Design” von KI-Anwendungen, das die individuellen Präferenzen und Werte der Patient:innen berücksichtigt, wird befürwortet.  

Umgang mit Bias in Algorithmen und Fairness

Eine der größten ethischen Herausforderungen ist das Risiko von Bias (Verzerrungen) in KI-Algorithmen. Wenn KI-Systeme mit Daten trainiert werden, die historische Ungleichheiten oder Vorurteile gegenüber bestimmten Bevölkerungsgruppen widerspiegeln, können diese Systeme die Verzerrungen erlernen und in ihren Entscheidungen replizieren oder sogar verstärken. Dies kann zu diskriminierenden Diagnosen, ungleichen Behandlungsempfehlungen oder einer ungerechten Verteilung von Gesundheitsressourcen führen. Um dem entgegenzuwirken, sind mehrere Maßnahmen erforderlich:  

• Datenqualität und Diversität: Die Verwendung qualitativ hochwertiger, diversifizierter und für die Zielpopulation repräsentativer Trainingsdaten ist unerlässlich. Beispielsweise müssen geschlechtsspezifische Unterschiede in Symptomatiken, wie bei Herzinfarkten, in den KI-Modellen adäquat berücksichtigt werden, um Fehldiagnosen bei Frauen zu vermeiden.  
• Bias-Audits und -Minimierung: Es bedarf transparenter Algorithmen, kontinuierlicher Überwachung der Systeme auf diskriminierende Auswirkungen, externer Audits und der Entwicklung spezifischer technischer Methoden zur Bias-Reduktion. Der AI Act (Art. 10 Abs. 5) enthält spezifische Richtlinien zur Bias-Minimierung.  
• Interdisziplinäre Teams und ethische Richtlinien: Die Entwicklung und Implementierung von KI sollte von interdisziplinären Teams begleitet werden, die auch ethische Expertise einbringen. Klare ethische Richtlinien und Standards sind notwendig. Die Vermeidung von Bias in KI-Algorithmen erfordert einen multidisziplinären Ansatz, der über rein technische Lösungen hinausgeht und die gesamte Wertschöpfungskette von der Datenerhebung über das Modelldesign bis hin zur Anwendung und kontinuierlichen Überwachung umfasst. Da Bias oft tief in gesellschaftlichen Strukturen und historischen Daten verankert ist, ist eine rein technische Lösung unzureichend; es bedarf eines soziotechnischen Ansatzes. Organisationen im Gesundheitswesen müssen Prozesse etablieren, die eine kontinuierliche Reflexion und Überprüfung von KI-Systemen auf Fairness und Diskriminierung sicherstellen.  

Transparenz und Erklärbarkeit von KI-Entscheidungen (“Explainable AI” – XAI)

Viele fortschrittliche KI-Modelle, insbesondere Deep-Learning-Systeme, agieren als “Black Box”: Ihre interne Funktionsweise und die genauen Gründe für eine bestimmte Entscheidung sind oft schwer oder gar nicht nachvollziehbar. Diese Intransparenz stellt ein erhebliches ethisches und praktisches Problem dar.  

• Bedeutung von Transparenz: Transparenz ist eine Grundvoraussetzung für den Aufbau von Vertrauen bei Ärzten und Patienten, für die Überprüfbarkeit von KI-Entscheidungen, für die Fehleranalyse und für die Zuschreibung von Verantwortung.  
• Forschung zu XAI: Es gibt intensive Forschungsbemühungen im Bereich der “Explainable AI” (XAI), die darauf abzielen, Methoden und Techniken zu entwickeln, um die Entscheidungsfindung von KI-Systemen interpretierbarer und nachvollziehbarer zu machen. Die Forderung nach XAI ist nicht nur ein technisches Desiderat, sondern ein fundamentales ethisches und rechtliches Erfordernis. Ohne ausreichende Erklärbarkeit können KI-Systeme im medizinischen Hochrisikobereich kaum verantwortungsvoll eingesetzt werden, da Ärzte die Verantwortung für die Entscheidungen tragen und Patienten ein Recht auf verständliche Informationen haben.  

Datensouveränität und Schutz der Privatsphäre

Der Einsatz von KI im Gesundheitswesen ist untrennbar mit der Verarbeitung großer Mengen sensibler Gesundheitsdaten verbunden. Daher sind der Schutz der Privatsphäre und die Gewährleistung der Datensouveränität der Patient:innen von höchster ethischer Bedeutung.

• Die ärztliche Schweigepflicht und das Patientengeheimnis müssen auch im digitalen Zeitalter und beim Einsatz von KI-Systemen strikt gewahrt bleiben.  
• Patient:innen müssen die Kontrolle über ihre Daten behalten und darüber entscheiden können, wer unter welchen Bedingungen Zugriff auf ihre Gesundheitsinformationen erhält (informationelle Selbstbestimmung).  
• Der Deutsche Ethikrat betont, dass die Interessen der Menschen, von denen die in KI-Anwendungen verwendeten Daten stammen, in den Mittelpunkt gestellt werden müssen und übermäßige Eingriffe in die Privatsphäre durch effektive rechtliche und technische Vorkehrungen zu verhindern sind. Es besteht eine inhärente Spannung zwischen dem Wunsch nach leistungsfähiger KI, die oft auf riesigen Datenmengen trainiert wird , und den strengen Anforderungen an Datenschutz und Datensouveränität im Gesundheitswesen. Dieser Konflikt ist eine der größten Bremsen für die KI-Entwicklung. Techniken wie Föderales Lernen, Anonymisierung/Pseudonymisierung und synthetische Datengenerierung sind wichtige Lösungsansätze, aber noch nicht flächendeckend oder für alle Anwendungsfälle ausgereift. Die Entwicklung datenschutzfreundlicher KI-Trainingsmethoden und klarer rechtlicher Rahmenbedingungen für die Sekundärnutzung von Gesundheitsdaten (wie durch das GDNG angestrebt) sind entscheidend.  

Die Rolle von Ethik-Kommissionen

Ethik-Kommissionen spielen eine wichtige Rolle bei der Bewertung und Begleitung des Einsatzes von KI in der medizinischen Forschung und zunehmend auch in der klinischen Anwendung.

• Sie prüfen Forschungsvorhaben, die KI nutzen, hinsichtlich ihrer wissenschaftlichen Qualität, ethischen Vertretbarkeit und rechtlichen Zulässigkeit, bevor diese beginnen dürfen. Dabei achten sie insbesondere auf den Schutz der Studienteilnehmer:innen, die Angemessenheit der Risiken im Verhältnis zum erwarteten Nutzen und die Wahrung der Selbstbestimmung durch eine verständliche Aufklärung.  
• Organisationen wie die Bundesärztekammer und deren wissenschaftliche Gremien (z.B. die Zentrale Ethikkommission, der Wissenschaftliche Beirat) veröffentlichen regelmäßig Stellungnahmen und Empfehlungen, die als Orientierung für den ethisch verantwortungsvollen Umgang mit KI in der Medizin dienen.  

Tabelle 3: Ethische Herausforderungen und Lösungsansätze beim KI-Einsatz in der Medizin

 

Diese Tabelle fasst die Kernherausforderungen und mögliche Lösungsansätze zusammen und soll als Referenz für die ethische Bewertung und Gestaltung von KI-Anwendungen im Gesundheitswesen dienen.

6. Implementierung von KI-Lösungen: Strategien und Praxisbeispiele

Die erfolgreiche Implementierung von Künstlicher Intelligenz im deutschen Gesundheitswesen ist ein komplexes Unterfangen, das weit über die reine Technologiebeschaffung hinausgeht. Es erfordert eine sorgfältige strategische Planung, ein umfassendes Change Management und die Bereitschaft zur kontinuierlichen Anpassung. Erfolgreiche KI-Implementierung ist weniger eine Frage der reinen Technologie als vielmehr ein soziotechnischer Transformationsprozess. Krankenhäuser, die KI als isoliertes IT-Projekt betrachten und die organisatorischen sowie kulturellen Veränderungen vernachlässigen, werden wahrscheinlich nur suboptimale Ergebnisse erzielen oder scheitern.

Strategische Planung und Change Management in Gesundheitseinrichtungen

Für eine nachhaltige Integration von KI sind folgende strategische Elemente und Change-Management-Ansätze entscheidend:

• Entwicklung einer umfassenden KI-Strategie: Eine klare, von der Führungsebene getragene Digitalisierungs- und KI-Strategie ist unerlässlich. Diese sollte konkrete Ziele, priorisierte Anwendungsfälle, klare Projektschritte, Verantwortlichkeiten und Metriken zur Erfolgsmessung definieren. Insellösungen, die nicht in eine Gesamtstrategie eingebettet sind, entfalten oft nicht ihre volle Wirkung. Die Rolle eines Chief Transformation Officers (CTO) oder einer vergleichbaren koordinierenden Stelle kann hierbei hilfreich sein.  
• Einbindung und Schulung des Personals: Die frühzeitige und kontinuierliche Einbindung aller betroffenen Mitarbeitergruppen – Ärzte, Pflegekräfte, Verwaltungspersonal – ist ein kritischer Erfolgsfaktor. Transparente Kommunikation über Ziele und Auswirkungen der KI-Einführung, umfassende Schulungs- und Weiterbildungsangebote zur Förderung von KI-Kompetenzen sowie die Berücksichtigung von Bedürfnissen und Sorgen der Mitarbeiter sind notwendig, um Akzeptanz zu schaffen und Widerstände abzubauen. Es gilt, alte Handlungsweisen kritisch zu hinterfragen und die Bereitschaft für neue, KI-gestützte Prozesse zu fördern.  
• Change Management und Kulturwandel: Die Einführung von KI bedeutet oft eine Veränderung etablierter Arbeitsweisen und Prozesse. Dieser Wandel muss aktiv gestaltet werden. Dr. Peter Gocke von der Charité betont, dass der Change-Management-Prozess oft deutlich mehr Zeit und Ressourcen beansprucht als die reine Technologiebereitstellung. Eine partizipative Strategieentwicklung und die Etablierung einer lernenden Organisation sind hierbei förderlich.  
• Ressourcenplanung und Pilotprojekte: KI-Projekte erfordern adäquate finanzielle und personelle Ressourcen. Eine schrittweise Einführung, beginnend mit klar definierten Pilotprojekten, ermöglicht es, Erfahrungen zu sammeln, die Technologie zu validieren und die Akzeptanz zu fördern, bevor eine flächendeckende Implementierung erfolgt. Ein agiles Vorgehen mit Flexibilität zur Anpassung ist dabei vorteilhaft.  
• Datenstrategie und -infrastruktur: Eine solide Grundlage in Form einer durchdachten Datenstrategie, qualitativ hochwertiger und interoperabler Daten sowie einer leistungsfähigen IT-Infrastruktur ist unabdingbar für den erfolgreichen KI-Einsatz.  
• Kooperationen und Partnerschaften: Die Zusammenarbeit mit externen Technologieanbietern, Forschungseinrichtungen und anderen Krankenhäusern kann wertvolles Know-how liefern, die Entwicklung beschleunigen und den Zugang zu Förderprogrammen erleichtern.  
• Führungsrolle und “Tone from the Top”: Eine starke, visionäre Führung, die KI zur Chefsache erklärt und den Wandel aktiv vorantreibt, ist entscheidend für die Schaffung einer innovationsfreundlichen Kultur.  

Die vorgestellten Pilotprojekte zeigen oft einen starken Fokus auf Effizienzsteigerung bei administrativen und dokumentarischen Aufgaben. Dies könnte ein pragmatischer erster Schritt sein, um Akzeptanz zu schaffen und Ressourcen für komplexere klinische KI-Anwendungen freizusetzen. Indem man zunächst “Low-Hanging Fruits” im administrativen Bereich adressiert, können Krankenhäuser schnell positive Erfahrungen mit KI sammeln, das Personal entlasten und so die Bereitschaft für anspruchsvollere KI-Anwendungen in Diagnostik und Therapie erhöhen.

Pilotprojekte und Fallstudien aus Deutschland

In Deutschland gibt es bereits eine Reihe von vielversprechenden Pilotprojekten und ersten Implementierungen von KI-Lösungen im Gesundheitswesen, die das Potenzial der Technologie verdeutlichen:

• Generative KI zur Arztbrieferstellung im Brustzentrum St. Elisabeth: In einer Kooperation mit Pexon Consulting wurde eine Lösung auf Basis von Azure OpenAI GPT-4 Turbo implementiert, um Arztbriefe automatisiert zu erstellen. Das Projekt führte zu einer Zeitersparnis von 25% bei der Brieferstellung, sorgte für kohärentere und qualitativ hochwertige Dokumente und erhöhte die Flexibilität und Effizienz im klinischen Alltag, unter Einhaltung strenger Datenschutz- und Compliance-Vorgaben.  
• KI-gestützte Pflegeplanung mit CareMates: Das Münchner Startup CareMates hat mithilfe der AWS-Cloud ein KI-Tool entwickelt, das personalisierte Pflegepläne erstellt, individuelle Pflegerisiken berücksichtigt und veraltete Pläne optimiert. Ein Pilotprojekt mit 22 Caritas-Pflegeeinrichtungen konnte den administrativen Aufwand für Pflegekräfte um durchschnittlich vier Stunden, also rund 80%, senken, wodurch mehr Zeit für die direkte Patientenversorgung gewonnen wurde.  
• SmartHospital.NRW (Universitätsmedizin Essen): Dieses Flagship-Projekt, gefördert vom Land Nordrhein-Westfalen, entwickelt ein übertragbares Vorgehensmodell und Werkzeuge (z.B. einen KI-Readiness-Check), um Krankenhäuser bei ihrer Transformation zu “Smart Hospitals” zu unterstützen. Prototypische KI-Anwendungen, wie ein Arztbriefgenerator und Sprachassistenzsysteme für Patienten und Personal, werden entwickelt und in einem Showroom erlebbar gemacht. Die Einbindung des medizinischen und pflegerischen Personals ist hierbei ein zentrales Element.  
• Innovative Secure Medical Campus (UK Bonn): Dieses Projekt fokussiert auf die sichere Digitalisierung medizinischer Abläufe unter Einbindung von KI, 5G und OP-Robotik. Konkrete Anwendungen umfassen KI-gestützte Tumorerkennung in der Radiologie, den Einsatz von Pflegerobotern, On-Demand-OP-Robotern, autonom fahrenden Shuttles und ein umfassendes Cybersecurity-Center. Geplant sind zudem eine virtuelle, KI-gestützte Lernumgebung für Pflegefachkräfte und ein Patient-Similarity-Modell in der kardialen Bildgebung.  
• KI-gestützte Früherkennung von Herzinfarkten bei Frauen (Osypka Herzzentrum München, TU München, PwC): Dieses interdisziplinäre Projekt zielt darauf ab, eine geschlechtsspezifische KI-Anwendung zu entwickeln, die die unterschiedliche Symptomatik von Herzinfarkten bei Frauen besser erkennt und so Fehldiagnosen und die Sterblichkeitsrate senken soll. Es sollen Best Practices für den verantwortungsvollen Einsatz von KI und skalierbare Modelle entstehen.  
• pAItient Projekt (BMG-gefördert): Im Rahmen dieses Projekts wurde ein KI-Innovationszentrum mit einer einheitlichen Infrastruktur für die Entwicklung und Integration von KI-Lösungen im Gesundheitswesen konzipiert und implementiert. Ein Anwendungsfall ist die KI-basierte Detektion der aktuellen Position eines Patienten im individuellen Behandlungspfad.  
• Weitere vom BMG geförderte Forschungsprojekte: Dazu zählen SMART Start (sensorgestützte Schwangerschaftsvorsorge im häuslichen Umfeld), HYKIST (Überwindung von Sprachbarrieren in der medizinischen Versorgung mittels KI-basierter Übersetzung) und SATURN (KI-Unterstützung für Hausärzte bei der Diagnose seltener Erkrankungen oder komplexer Fälle).  
• KI in der Radiologie (Praxisbeispiele): Die Radiologie Nuklearmedizin Mannheim setzt seit mehreren Jahren die KI-Software von mediaire erfolgreich für die Prostatakrebs- und Hirnvolumendiagnostik, Demenzfrüherkennung und Diagnose von Multipler Sklerose ein. Die Daten werden dabei lokal auf einem Server ausgewertet. Smart Reporting aus München hat eine KI-Lösung entwickelt, die in die medizinische Dokumentation integriert ist und Radiologen ermöglicht, Befunde in weniger als der Hälfte der Zeit zu erstellen, wobei das System aus den Berichtsmustern lernt.  

Diese Beispiele verdeutlichen, dass die KI-Implementierung in Deutschland oft eine Anpassung an den spezifischen nationalen Kontext erfordert, sei es hinsichtlich regulatorischer Vorgaben wie dem Datenschutz oder der Integration in bestehende Versorgungsstrukturen. Eine reine Übernahme internationaler Modelle ist selten ohne Modifikationen erfolgreich. Es bedarf daher einer starken nationalen und regionalen Forschungs- und Entwicklungslandschaft sowie Kooperationen, die KI-Lösungen für die spezifischen Bedürfnisse und Rahmenbedingungen des deutschen Gesundheitswesens entwickeln und validieren.

7. KI im Gesundheitswesen aus Patientensicht

Die fortschreitende Integration von Künstlicher Intelligenz in das Gesundheitswesen hat direkte Auswirkungen auf Patientinnen und Patienten. Für sie ist es entscheidend zu verstehen, wie KI funktioniert, welchen Nutzen sie bringen kann, welche Rechte sie in diesem Kontext haben und wie ihre sensiblen Gesundheitsdaten geschützt werden. Die erfolgreiche Implementierung von KI hängt maßgeblich vom Vertrauen der Patienten ab, welches nur durch maximale Transparenz, die Gewährleistung von Datensicherheit und die aktive Einbeziehung in Entscheidungen über die Nutzung ihrer Daten erreicht werden kann.

Verständliche Erklärung der Funktionsweise und des Nutzens von KI-Anwendungen für Patient:innen

Für Patient:innen ist es wichtig zu wissen, dass KI-Systeme in der Medizin als intelligente Werkzeuge dienen, die Ärzte und medizinisches Personal unterstützen, aber nicht ersetzen sollen. KI-Systeme, insbesondere solche, die auf maschinellem Lernen basieren, lernen aus großen Mengen medizinischer Daten (z.B. anonymisierte Röntgenbilder, EKG-Daten, Laborwerte), um Muster zu erkennen, die für das menschliche Auge möglicherweise nicht sofort ersichtlich sind.  

Konkreter Nutzen für Patient:innen kann sein:

• Schnellere und präzisere Diagnosen: KI kann helfen, Krankheiten wie Krebs oder neurologische Erkrankungen früher und genauer zu erkennen, indem sie beispielsweise Auffälligkeiten in medizinischen Bildern markiert oder komplexe Datenmuster analysiert. Dies kann zu einem schnelleren Therapiebeginn und potenziell besseren Behandlungsergebnissen führen.  
• Personalisierte Behandlungspläne: KI kann dazu beitragen, Behandlungen besser auf die individuellen Bedürfnisse eines Patienten abzustimmen, indem sie genetische Informationen, spezifische Krankheitsmerkmale und andere relevante Daten berücksichtigt. Sie kann auch helfen, die am besten geeigneten Medikamente auszuwählen und mögliche Neben- oder Wechselwirkungen vorherzusagen.  
• Unterstützung bei Operationen: Im Operationssaal können KI-gestützte Roboter Chirurgen bei komplexen Eingriffen unterstützen, was zu präziseren Operationen und schonenderen Verfahren führen kann. Augmented-Reality-Brillen können dem Operateur wichtige Informationen direkt ins Sichtfeld einblenden.  
• Effizientere Abläufe und mehr Zeit für das Gespräch: Durch die Automatisierung von Routineaufgaben wie der Dokumentation oder Terminplanung kann KI medizinisches Personal entlasten. Die so gewonnene Zeit kann für die direkte Betreuung und das Gespräch mit den Patient:innen genutzt werden.  
• Verbesserte Überwachung: KI-Systeme können Vitaldaten kontinuierlich überwachen und frühzeitig Alarm schlagen, wenn sich der Gesundheitszustand eines Patienten verschlechtert, beispielsweise auf Intensivstationen.  
• Unterstützung durch digitale Gesundheitsanwendungen (DiGAs): Spezielle Apps können Patienten beim Management chronischer Erkrankungen oder bei der Nachsorge unterstützen, indem sie personalisierte Ratschläge geben oder an Medikamenteneinnahmen erinnern.  

Es ist entscheidend, dass Patient:innen verstehen, dass KI-Systeme als Assistenzsysteme fungieren und die endgültige Entscheidung und Verantwortung immer beim medizinischen Fachpersonal liegt.  

Patientenrechte im Kontext von KI

Mit dem Einsatz von KI in ihrer Gesundheitsversorgung bleiben die grundlegenden Rechte der Patient:innen bestehen und werden durch spezifische Aspekte der Datenverarbeitung durch KI ergänzt. Diese Rechte basieren vor allem auf der Datenschutz-Grundverordnung (DSGVO):

• Recht auf Information und Transparenz (Art. 12-14 DSGVO): Patient:innen haben das Recht, klar und verständlich darüber informiert zu werden, wenn KI-Systeme bei ihrer Diagnose oder Behandlung eingesetzt werden. Dies beinhaltet Informationen darüber, welche ihrer Daten zu welchem Zweck verarbeitet werden, wie die KI grundsätzlich funktioniert und welche Logik hinter automatisierten Entscheidungen steckt, die sie betreffen könnten.  
• Recht auf Einwilligung (Art. 6, 7, 9 DSGVO): Für die Verarbeitung ihrer hochsensiblen Gesundheitsdaten durch KI-Systeme ist in vielen Fällen die ausdrückliche und informierte Einwilligung der Patient:innen erforderlich, sofern keine andere Rechtsgrundlage die Verarbeitung erlaubt.  
• Recht auf Auskunft (Art. 15 DSGVO): Patient:innen können Auskunft darüber verlangen, welche personenbezogenen Daten von ihnen durch KI-Systeme verarbeitet werden.
• Recht auf Berichtigung (Art. 16 DSGVO): Sollten die verarbeiteten Daten fehlerhaft sein, haben Patient:innen ein Recht auf deren Korrektur.
• Recht auf Löschung (“Recht auf Vergessenwerden”, Art. 17 DSGVO): Unter bestimmten Voraussetzungen können Patient:innen die Löschung ihrer Daten verlangen.  
• Recht auf Einschränkung der Verarbeitung (Art. 18 DSGVO): In bestimmten Fällen können Patient:innen verlangen, dass die Verarbeitung ihrer Daten eingeschränkt wird.
• Recht auf Datenübertragbarkeit (Art. 20 DSGVO): Patient:innen haben das Recht, die sie betreffenden personenbezogenen Daten, die sie einem Verantwortlichen bereitgestellt haben, in einem strukturierten, gängigen und maschinenlesbaren Format zu erhalten und diese Daten einem anderen Verantwortlichen ohne Behinderung zu übermitteln.
• Widerspruchsrecht (Art. 21 DSGVO): Patient:innen können der Verarbeitung ihrer Daten aus bestimmten Gründen widersprechen.
• Rechte bei automatisierten Entscheidungen im Einzelfall einschließlich Profiling (Art. 22 DSGVO): Patient:innen haben das Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung – einschließlich Profiling – beruhenden Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt, es sei denn, es liegen bestimmte Ausnahmen vor (z.B. ausdrückliche Einwilligung, Erforderlichkeit für einen Vertrag oder Rechtsvorschriften, die angemessene Maßnahmen zur Wahrung der Rechte und Freiheiten sowie der berechtigten Interessen der betroffenen Person vorsehen). In solchen Fällen müssen aussagekräftige Informationen über die involvierte Logik sowie die Tragweite und die angestrebten Auswirkungen einer derartigen Verarbeitung für die betroffene Person bereitgestellt werden.  

Die praktische Durchsetzung einiger dieser Rechte, insbesondere des Rechts auf Löschung, stellt bei komplexen, lernenden KI-Systemen eine erhebliche technische und konzeptionelle Herausforderung dar. Wenn Patientendaten zum Training eines KI-Modells verwendet wurden, ist es oft extrem schwierig oder unmöglich, den Einfluss dieser spezifischen Daten nachträglich vollständig aus dem Modell zu entfernen, ohne das gesamte Modell neu zu trainieren (das sogenannte “Unlearning Problem”). Dies wirft Fragen zur Kompatibilität der aktuellen rechtlichen Anforderungen der DSGVO mit den technischen Realitäten auf. Es bedarf weiterer Forschung zu Techniken des “Machine Unlearning” und möglicherweise rechtlicher Klarstellungen oder Leitlinien, wie Betroffenenrechte im Kontext von KI-Modellen praktisch umgesetzt werden können, ohne die Entwicklung unverhältnismäßig zu behindern. Transparenz über diese Limitationen gegenüber den Patient:innen ist ebenfalls von großer Bedeutung.

Datenschutz und Datensicherheit bei der Nutzung von KI-gestützten Gesundheitsdiensten

Der Schutz der hochsensiblen Gesundheitsdaten von Patient:innen ist beim Einsatz von KI von überragender Bedeutung. Unzureichender Datenschutz kann nicht nur das Vertrauen der Patient:innen untergraben, sondern auch zu schwerwiegenden persönlichen Konsequenzen führen.

• Strenge Einhaltung der DSGVO und anderer Datenschutzgesetze: Alle KI-Anwendungen, die Gesundheitsdaten verarbeiten, müssen die strengen Vorgaben der DSGVO und nationaler Datenschutzgesetze (z.B. BDSG, Landesdatenschutzgesetze) erfüllen.  
• Technische und organisatorische Maßnahmen (TOMs): Gesundheitseinrichtungen und KI-Anbieter müssen umfassende TOMs implementieren, um die Sicherheit der Daten zu gewährleisten. Dazu gehören Maßnahmen wie:
  • Pseudonymisierung und Anonymisierung: Soweit möglich, sollten Daten pseudonymisiert oder anonymisiert werden, um die direkte Identifizierbarkeit von Patient:innen zu erschweren oder auszuschließen.  
  • Verschlüsselung: Daten sollten sowohl bei der Übertragung als auch bei der Speicherung verschlüsselt werden.  
  • Zugriffskontrollen: Es muss sichergestellt werden, dass nur berechtigte Personen Zugriff auf sensible Daten haben.
  • Datensparsamkeit: Es sollten nur die Daten erhoben und verarbeitet werden, die für den jeweiligen Zweck unbedingt erforderlich sind.
• Schutz vor Cyberangriffen und Datenmissbrauch: KI-Systeme und die von ihnen verarbeiteten Daten können Ziel von Cyberangriffen sein. Robuste Sicherheitsarchitekturen und regelmäßige Sicherheitsüberprüfungen sind daher unerlässlich.  
• Lokale Datenverarbeitung: Einige Anbieter setzen auf lokale Datenverarbeitung auf Servern innerhalb der Praxis oder Klinik, um zu gewährleisten, dass sensible Daten die Einrichtung nicht verlassen, wie es beispielsweise die Radiologie Nuklearmedizin Mannheim praktiziert.  

Die Patientenperspektive muss frühzeitig in den Design- und Entwicklungsprozess von KI-Anwendungen einbezogen werden (“Value-sensitive Design” ), um sicherzustellen, dass die entwickelten Lösungen tatsächlich den Bedürfnissen der Patient:innen entsprechen und ihre Bedenken hinsichtlich Datenschutz, Transparenz und Autonomie berücksichtigen. Partizipative Entwicklungsansätze, die Patientenvertreter und Patient:innen aktiv in den Design- und Testprozess einbeziehen, sind notwendig, um patientenzentrierte und vertrauenswürdige KI-Lösungen zu schaffen.  

8. Zukunftsperspektiven und Handlungsempfehlungen

Die Künstliche Intelligenz steht erst am Anfang ihrer Entwicklung im Gesundheitswesen, doch ihr transformatives Potenzial ist bereits deutlich erkennbar. Um dieses Potenzial in Deutschland nachhaltig und verantwortungsvoll zu heben, bedarf es konzertierter Anstrengungen in Forschung und Entwicklung, der Schaffung adäquater Rahmenbedingungen sowie der gezielten Förderung von Kompetenzen und Akzeptanz bei allen beteiligten Akteuren.

Forschungsinitiativen und Förderprogramme in Deutschland

Die Bundesregierung hat die strategische Bedeutung von KI erkannt und eine umfassende KI-Strategie aufgelegt, die seit 2018 besteht und 2020 fortgeschrieben wurde. Ziel ist es, Deutschland zu einem führenden Standort für die Entwicklung und Anwendung von KI zu machen, auch und insbesondere im Gesundheitswesen.  

• Finanzielle Förderung: Allein das Bundesministerium für Bildung und Forschung (BMBF) plant in der laufenden Legislaturperiode Investitionen von über 1,6 Milliarden Euro in KI.  
• BMBF-Initiativen:
  • KI-Aktionsplan: Bündelt Maßnahmen zur Stärkung der KI-Forschung, Infrastruktur und des Transfers.
  • Kompetenzzentren für KI: Sechs Zentren (DFKI, BIFOLD, Lamarr Institut, MCML, ScaDS.AI Dresden/Leipzig, TUE.AI Center) bilden den Nukleus des deutschen KI-Forschungsökosystems und werden seit 2022 institutionell gefördert.  
  • Servicezentren für KI-Rechenleistung: Stellen Forschenden und Unternehmen leistungsstarke Recheninfrastruktur zur Verfügung.  
  • Nationale Forschungsdateninfrastruktur (NFDI): Zielt auf die systematische Erschließung, Vernetzung und Nutzbarmachung von Datenbeständen aus Wissenschaft und Forschung ab.
  • Medizininformatik-Initiative (MII): Ein zentrales Förderprogramm zur Stärkung der datenbasierten Gesundheitsforschung und zur Verbesserung der Interoperabilität und Datennutzung an deutschen Universitätskliniken. Die MII entwickelt IT-Lösungen für konkrete Anwendungen in der Patientenversorgung und schafft die Voraussetzungen für die Nutzung von Versorgungsdaten für die Forschung.  
  • Digitale FortschrittsHubs Gesundheit: Sechs regionale Verbünde werden mit bis zu 50 Millionen Euro gefördert, um die Datenverfügbarkeit und die sektorübergreifende Zusammenarbeit im Gesundheitswesen durch digitale Innovationen zu verbessern.  
  • Förderung der Wirkstoffforschung mit KI: Spezifische Förderbekanntmachungen unterstützen Projekte, die KI-Methoden zur Beschleunigung der Entdeckung und Entwicklung neuer Medikamente einsetzen.  
• Förderung durch das Bundesministerium für Gesundheit (BMG): Das BMG fördert ebenfalls gezielt Projekte im Bereich digitale Innovationen und KI, beispielsweise zur patientenzentrierten Versorgung, zur Nutzung genomischer Daten (genomDE) oder zum Einsatz von KI in der Langzeitpflege.  
• Lernplattformen und Anwendungshubs: Der KI-Campus bietet digitale Lernangebote zu KI, auch mit spezifischem Fokus auf die Medizin, und wird u.a. vom BMBF gefördert. KI-Anwendungshubs und Initiativen wie “KI-Trainer” für KMU sollen den Transfer in die Praxis unterstützen.  
• Forschungsinstitute: Eine breite Landschaft von Forschungseinrichtungen, darunter die Fraunhofer-Gesellschaft (z.B. IKS für Kognitive Systeme, IZI für Zelltherapie und Immunologie), das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI), Institute der Max-Planck-Gesellschaft und der Helmholtz-Gemeinschaft sowie zahlreiche Universitäten, treiben die KI-Forschung in der Medizin voran.  

Trotz dieser umfangreichen Förderprogramme und einer klaren politischen Strategie bleibt der Transfer von KI-Forschungsergebnissen in die breite klinische Praxis eine der größten Herausforderungen in Deutschland. Es scheint eine “Valley of Death” zwischen vielversprechenden Forschungsergebnissen oder Pilotprojekten und der erfolgreichen Skalierung und Routineanwendung zu geben. Gründe hierfür könnten in fehlenden nachhaltigen Geschäftsmodellen, komplexen und langwierigen Zulassungsverfahren für innovative Medizinprodukte, mangelnder Interoperabilität mit bestehenden IT-Altsystemen in Krankenhäusern und unzureichenden finanziellen Anreizen für Gesundheitseinrichtungen liegen, in noch nicht vollständig etablierte KI-Technologien zu investieren. Zukünftige Förderprogramme sollten daher einen noch stärkeren Fokus auf den Transfer, die Implementierungsforschung und die Entwicklung nachhaltiger Versorgungsmodelle legen.

Potenziale generativer KI und zukünftige Entwicklungstrends

Generative KI, insbesondere Large Language Models (LLMs), hat in jüngster Zeit eine rasante Entwicklung erfahren und birgt ein enormes, teilweise disruptives Potenzial für das Gesundheitswesen.  

• Anwendungen: Die Einsatzmöglichkeiten reichen von der automatisierten Zusammenfassung umfangreicher Patientenakten über die Erstellung von Entwürfen für klinische Notizen und Arztbriefe bis hin zur Entwicklung personalisierter Pflegepläne. Auch in der direkten Diagnose- und Behandlungsunterstützung sowie in der Optimierung von Verwaltungsprozessen und der Patientenkommunikation (z.B. durch intelligente Chatbots) werden große Potenziale gesehen.  
• Autonome KI-Agenten (Agentic AI): Deutsche Unternehmen zeigen ein überdurchschnittlich hohes Interesse an der Entwicklung und dem Einsatz von autonomen KI-Agenten, die komplexe Arbeitsabläufe koordinieren und Aufgaben mit minimalem menschlichem Eingreifen erledigen könnten.  
• Herausforderungen: Die schnelle Entwicklung von GenKI geht mit spezifischen Herausforderungen einher. Dazu zählen regulatorische Unsicherheiten, die Sicherstellung der Datenqualität und -sicherheit (insbesondere beim Training von LLMs), die Gefahr von “Halluzinationen” (KI-generierte Falschinformationen) und die Skalierung von Pilotprojekten. Die Geschwindigkeit der GenKI-Entwicklung überholt möglicherweise die Fähigkeit der Regulierung und der Gesundheitseinrichtungen, angemessen zu reagieren. Es besteht die Gefahr einer unkontrollierten oder unsicheren Anwendung, wenn nicht zügig spezifische Leitlinien und Standards für den Einsatz von GenKI im Gesundheitswesen entwickelt und implementiert werden. Ansätze wie die “vier Säulen des Vertrauens für klinische GenAI” (klinische Überprüfung, reale Anwendungen, kuratierte Quellen, kontinuierliche Verbesserung) bieten hier wertvolle Orientierung.  

Weitere allgemeine Zukunftstrends im Bereich KI in der Medizin umfassen die zunehmende Integration von KI in mobile Gesundheitsanwendungen und Wearables zur kontinuierlichen Patientenüberwachung, die Weiterentwicklung von KI-gestützter Robotik für Chirurgie und Pflege sowie die Nutzung von KI zur Analyse multimodaler Daten (z.B. Kombination von Bild-, Genom- und klinischen Daten) für noch präzisere Diagnosen und Therapien.  

Handlungsempfehlungen für Stakeholder

Um die Potenziale der KI im deutschen Gesundheitswesen erfolgreich und verantwortungsvoll zu nutzen, sind abgestimmte Maßnahmen aller relevanten Akteure erforderlich:

• Für das Gesundheitspersonal (Ärzt:innen, Pflegekräfte, weitere Fachberufe):
  • Lebenslanges Lernen und Kompetenzerwerb: Die Bereitschaft zur kontinuierlichen Weiterbildung und zum Erwerb von digitalen und spezifischen KI-Kompetenzen ist unerlässlich. Angebote wie die Kurse des KI-Campus können hier unterstützen.  
  • Kritisch-reflektierte Nutzung: KI-Systeme sollten als Werkzeuge verstanden werden, deren Ergebnisse stets kritisch hinterfragt und auf Plausibilität geprüft werden müssen. Ein Bewusstsein für die Grenzen, potenziellen Fehlerquellen und Bias-Risiken von KI ist entscheidend.  
  • Aktive Mitgestaltung: Medizinisches Personal sollte aktiv in die Entwicklung, Erprobung und Implementierung von KI-Lösungen einbezogen werden, um deren Praxisrelevanz und Nutzerfreundlichkeit sicherzustellen und Feedback für Verbesserungen zu geben.  
• Für Administratoren und Krankenhausmanagement:
  • Strategische Verankerung: Entwicklung und konsequente Umsetzung einer klaren, langfristig ausgerichteten Digitalisierungs- und KI-Strategie, die in die Gesamtstrategie der Einrichtung eingebettet ist.  
  • Investitionen und Infrastruktur: Bereitstellung der notwendigen finanziellen und personellen Ressourcen sowie Aufbau einer modernen, interoperablen und sicheren Daten- und IT-Infrastruktur.  
  • Kulturwandel und Change Management: Förderung einer innovationsfreundlichen Unternehmenskultur, die Veränderungen offen gegenübersteht. Implementierung professioneller Change-Management-Prozesse zur Begleitung der KI-Einführung.  
  • Kooperationen: Aufbau von Partnerschaften mit Technologieanbietern, Forschungseinrichtungen und anderen Gesundheitseinrichtungen zum Wissensaustausch und zur gemeinsamen Entwicklung von Lösungen.  
  • Compliance sicherstellen: Proaktive Auseinandersetzung mit den rechtlichen und ethischen Anforderungen (DSGVO, AI Act, MDR etc.) und Implementierung robuster Compliance-Management-Systeme.  
• Für Politik und Regulierungsbehörden:
  • Rahmenbedingungen gestalten: Schaffung klarer, innovationsfreundlicher und gleichzeitig schützender rechtlicher Rahmenbedingungen. Harmonisierung und praxisnahe Auslegung bestehender Vorschriften (z.B. AI Act, DSGVO, MDR).  
  • Forschung und Transfer fördern: Fortsetzung und Ausbau der Förderung von KI-Forschung, -Entwicklung und insbesondere des Transfers von Innovationen in die Versorgungspraxis. Stärkung von Implementierungsforschung und Reallaboren.  
  • Standardisierung vorantreiben: Unterstützung bei der Entwicklung und Etablierung von Standards für Datenformate, Schnittstellen und Interoperabilität.
  • Unterstützungsstrukturen schaffen: Aufbau von Beratungs- und Unterstützungsangeboten für KMU und Gesundheitseinrichtungen bei der Implementierung von KI und der Bewältigung von Compliance-Anforderungen.  
• Für Patient:innen:
  • Informationsaneignung: Sich aktiv und kritisch über die Möglichkeiten und Risiken von KI im Gesundheitswesen informieren, beispielsweise durch verständliche Ratgeber und Informationsangebote.  
  • Teilhabe und Dialog: Das Gespräch mit den behandelnden Ärzt:innen suchen und informierte Entscheidungen über den Einsatz von KI in der eigenen Behandlung treffen.
  • Datenschutzrechte wahrnehmen: Sich der eigenen Rechte im Hinblick auf den Schutz personenbezogener Gesundheitsdaten bewusst sein und diese aktiv einfordern.  

Die Zukunft der KI im Gesundheitswesen wird stark von der Fähigkeit abhängen, interdisziplinäre Zusammenarbeit zu institutionalisieren und eine neue Generation von Fachkräften auszubilden, die sowohl medizinische als auch KI-Kompetenzen besitzen. Traditionelle Ausbildungsgänge und Fachbereichsgrenzen sind oft nicht ausreichend, um die für KI im Gesundheitswesen benötigten hybriden Kompetenzprofile zu schaffen. Es bedarf neuer, interdisziplinärer Studiengänge (z.B. Medizininformatik mit KI-Schwerpunkt), verstärkter Kooperationen zwischen medizinischen Fakultäten und Informatik-Fachbereichen sowie umfassender, lebenslanger Lernangebote für bereits tätiges Personal. Die Schaffung von “Schnittstellen-Personal” mit Expertise in beiden Bereichen ist hierbei von entscheidender Bedeutung.  

9. Fazit: KI als transformative Kraft im deutschen Gesundheitswesen

Die Analyse des aktuellen Stands und der Perspektiven von Künstlicher Intelligenz im deutschen Gesundheitswesen zeichnet ein vielschichtiges Bild. KI birgt unbestreitbar immense Chancen, die medizinische Versorgung in nahezu allen Bereichen – von der Prävention über die Diagnostik und Therapie bis hin zur Administration und Forschung – nachhaltig zu verbessern und effizienter zu gestalten. Die Technologie hat das Potenzial, Antworten auf einige der drängendsten Herausforderungen des Systems zu geben, darunter der demografische Wandel, der Fachkräftemangel und der steigende Kostendruck.

Die Implementierung von KI im deutschen Gesundheitswesen steht jedoch vor erheblichen Herausforderungen. Dazu zählen technische Aspekte wie die Verfügbarkeit qualitativ hochwertiger und interoperabler Daten, die Integration in bestehende IT-Systeme und die Gewährleistung von Cybersicherheit. Mindestens ebenso bedeutsam sind jedoch die regulatorischen Hürden durch ein komplexes Geflecht aus EU-Verordnungen (AI Act, DSGVO, MDR) und nationalen Gesetzen, die hohen Anforderungen an Compliance stellen. Finanzielle Investitionen, der Aufbau spezifischer KI-Kompetenzen beim medizinischen Personal und die Überwindung von Akzeptanzbarrieren sind weitere kritische Faktoren. Die festgestellte “Pilot-Paralyse” deutet darauf hin, dass der Transfer von vielversprechenden Forschungsergebnissen und Pilotprojekten in die breite klinische Anwendung noch nicht zufriedenstellend gelingt.

Ein verantwortungsvoller und erfolgreicher Einsatz von KI erfordert einen klaren rechtlichen und ethischen Rahmen, der Innovation fördert, ohne die Sicherheit und die Rechte der Patient:innen zu kompromittieren. Die Wahrung der ärztlichen Verantwortung, die Sicherstellung menschlicher Aufsicht, die Gewährleistung von Patientenautonomie und informierter Einwilligung, der faire und diskriminierungsfreie Umgang mit Algorithmen sowie Transparenz und Erklärbarkeit von KI-Entscheidungen sind ethische Imperative. Der Schutz hochsensibler Gesundheitsdaten und die Datensouveränität der Patient:innen müssen dabei stets oberste Priorität haben.

Die Transformation des Gesundheitswesens durch KI ist kein einmaliges Projekt, sondern ein kontinuierlicher Prozess der Ko-Evolution von Technologie, Medizin, Gesellschaft und Regulierung. KI-Technologien entwickeln sich rasant weiter, medizinische Erkenntnisse und Behandlungsmethoden ändern sich, gesellschaftliche Erwartungen an das Gesundheitswesen und den Umgang mit Daten wandeln sich, und regulatorische Rahmen müssen diesen Entwicklungen folgen. Dies erfordert von allen Stakeholdern – Gesundheitspersonal, Krankenhausmanagement, Politik, Industrie und Patient:innen – eine Haltung des kontinuierlichen Lernens, der Anpassungsfähigkeit und des proaktiven Mitgestaltens. Agile Methoden und flexible Strukturen werden in diesem dynamischen Umfeld immer wichtiger.

Der Ausblick auf eine nachhaltige und verantwortungsvolle Integration von KI in das deutsche Gesundheitswesen ist trotz der Herausforderungen positiv. Die Bundesregierung und die Länder haben die strategische Bedeutung erkannt und umfangreiche Förderprogramme aufgelegt, um Forschung, Entwicklung und Transfer zu unterstützen. Die fortschreitende Digitalisierung, Initiativen wie die Medizininformatik-Initiative und das Gesundheitsdatennutzungsgesetz schaffen verbesserte Voraussetzungen für datengetriebene Innovationen. Generative KI eröffnet zusätzlich neue, disruptive Möglichkeiten, insbesondere im Bereich der administrativen Entlastung und der Wissensgenerierung.

Wenn es Deutschland gelingt, die Potenziale der KI unter Wahrung hoher ethischer und datenschutzrechtlicher Standards zu heben, könnte dies nicht nur die Versorgungsqualität für die Bürgerinnen und Bürger signifikant verbessern, sondern auch zu einem wichtigen Standortvorteil für die deutsche Gesundheitswirtschaft und Medizintechnikindustrie werden. Die strengen regulatorischen und ethischen Anforderungen, die oft als Bürde empfunden werden, könnten sich langfristig als Wettbewerbsvorteil erweisen, wenn sie mit Innovationskraft und einer klaren Vision für eine menschenzentrierte, KI-gestützte Gesundheitsversorgung gepaart werden. Das Ziel muss eine Zukunft sein, in der KI das medizinische Personal unterstützt, Freiräume für empathische Zuwendung schafft, die Forschung beschleunigt und letztlich dazu beiträgt, das deutsche Gesundheitswesen resilienter, effizienter und patientenorientierter zu gestalten.

Works cited

1. KI trifft Gesundheit: Digitale Innovationen in der Versorgung verwirklichen – Bundesgesundheitsministerium, accessed on May 12, 2025, https://www.bundesgesundheitsministerium.de/fileadmin/Dateien/5_Publikationen/Gesundheit/Broschueren/BMG_Broschuere_KI_Forschung.pdf
2. DÄ_Politik/04/2025/_Bek_BÄK_KI in der Medizin_ONLINE – Bundesärztekammer, accessed on May 12, 2025, https://www.bundesaerztekammer.de/fileadmin/user_upload/wissenschaftlicher-beirat/Veroeffentlichungen/KI_in_der_Medizin_SN.pdf
3. Das intelligente Krankenhaus – PwC, accessed on May 12, 2025, https://www.pwc.de/de/im-fokus/cyber-security-privacy/pwc-whitepaper-ki-im-krankenhaus.pdf
4. Künstliche Intelligenz – Bundesministerium für Bildung und Forschung – BMBF, accessed on May 12, 2025, https://www.bmbf.de/DE/Forschung/Zukunftstechnologien/KuenstlicheIntelligenz/kuenstlicheintelligenz_node.html
5. Studie von Corti analysiert KI-Einsatz im Gesundheitswesen: E …, accessed on May 12, 2025, https://e-health-com.de/details-unternehmensnews/studie-von-corti-analysiert-ki-einsatz-im-gesundheitswesen/
6. KI in der Medizin – Potenziale, Gefahren und … – praktischArzt, accessed on May 12, 2025, https://www.praktischarzt.de/arzt/ki-in-der-medizin/
7. KI im Alltag: Anwendungsbeispiele – ZDFheute, accessed on May 12, 2025, https://www.zdf.de/nachrichten/ratgeber/ki-kuenstliche-intelligenz-im-alltag-100.html
8. Zwischen Neugier und Skepsis: Nutzung und Wahrnehmung generativer KI zur Informationssuche in Deutschland – Leibniz Institut für Medienforschung, accessed on May 12, 2025, https://leibniz-hbi.de/hbi-publications/nutzung-und-wahrnehmung-generativer-ki-zur-informationssuche-in-deutschland/
9. KI-Studie: Beschleunigung der KI-Transformation | Deloitte Deutschland, accessed on May 12, 2025, https://www.deloitte.com/de/de/Industries/technology/research/ki-studie.html
10. AI-Act: Regulierung von KI im Gesundheitswesen – Wegweiser …, accessed on May 12, 2025, https://regulatorik-gesundheitswirtschaft.bio-pro.de/infothek/fachbeitraege/ai-act-regulierung-von-ki-im-gesundheitswesen