Künstliche Intelligenz in der Medizin

In der Diagnostik können KI-Anwendungen eingesetzt werden, um die Treffsicherheit zu erhöhen und Arbeitsprozesse zu optimieren. Zu nennen ist hier v. a. KI-unterstützte Bilderkennung in Bereichen wie der Radiologie und Dermatologie. KI-Anwendungen, deren Algorithmen mittels tausender Aufnahmen von Hautpartien trainiert wurden, werden bereits zur Erkennung von Melanomen eingesetzt und übertreffen mitunter Dermatologinnen und Dermatologen hinsichtlich der Treffsicherheit. Ebenso haben KI-Anwendungen für Mammographien zu einer verbesserten Brustkrebs-Diagnostik beigetragen.

Klinische Entscheidungsunterstützungs-Systeme („clinical decision support systems“, CDSS) helfen dabei, Daten zu verknüpfen, zu modellieren und zu organisieren, um Arbeitsprozesse zu optimieren und eine bessere Grundlage für klinische Entscheidungen zu schaffen. Ein CDSS kann etwa Daten einer aktuellen Befundung in das Gesamtbild des Patienten oder der Patientin einordnen, Diagnosen und Prognosen anbieten, Therapieoptionen vorschlagen und weitere Therapieschritte planen. Dabei führen diese Systeme Daten aus unterschiedlichen Quellen (Labordaten, Patientenakte, ärztliche Notizen, Studien zur Wirksamkeit von Therapien bzw. Medikamenten) zusammen und bauen Modelle zur prädikativen Datenanalyse. Damit wird einerseits die gesundheitliche Situation einer Person präziser erfasst, andererseits auch die weitere Entwicklung, z. B. die Krankheitsprogression, besser vorhergesagt. Der Fokus auf individuellen Gesundheitsdaten erlaubt eine besser personalisierte Behandlung, anstatt sich auf die statistische Abstraktion von Durchschnittspatientinnen und -patienten zu verlassen, wie sie in Reviews und Kohortenstudien vorkommen.

Ein weiteres wichtiges Anwendungsfeld stellt der Bereich mobiler Gesundheitstechnologien (Mobile Health oder mHealth) sowie Internet of Things (IoT) dar. KI-Anwendungen in Form von Apps oder Smart Wearables (Fitnessarmbänder, Smart Watches, am Körper getragene Sensortechnik) können genutzt werden, um Vitalfunktionen, aber auch Umwelt- und Verhaltensdaten longitudinal zu sammeln. Die Datensammlung ist damit nicht mehr auf spezifische Zeitpunkte oder die Anwesenheit in medizinischen Einrichtungen beschränkt, sondern kann im privaten Lebensumfeld und Alltag von Personen erfolgen. So kann eine größere, über einen Zeitraum verteilte Datenmenge erhoben und in Echtzeit ausgewertet werden. Patientinnen und Patienten können Apps auch selbstständig nutzen, etwa zur Symptomanalyse, zu telemedizinischen Zwecken oder zur personalisierten Gesundheitsinformation. Sensor- und Monitoringtechnologien, die auf IoT-Anwendungen basieren, können in Kliniken, Pflegeeinrichtungen oder in der eigenen Häuslichkeit genutzt werden. Durch automatisierte Prozesse der Datenerhebung und -prozessierung können Zeit und Personalressourcen eingespart werden. Auch lassen sich diese Systeme einsetzen, um älteren Menschen oder chronisch Kranken ein möglichst selbstständiges Leben in der eigenen Häuslichkeit zu ermöglichen. Ein Beispiel hierfür wären Sturzsensoren im Fußboden, sogenannte Smart Floors, die das Gangbild von Personen auswerten und bevorstehende Stürze anzeigen bzw. erfolgte Stürze notfallmäßig melden.

Im Bereich der Robotik werden KI-Anwendungen ebenfalls bereits eingesetzt. Hier spricht man auch von verkörperter KI, wenn Anwendungen in Form von Hardware vorliegen. Dazu gehören Chirurgie-Roboter, die mittlerweile sowohl in der Ausbildung als auch für Operationen eingesetzt werden. Dabei können diese Systeme zur Unterstützung für Chirurginnen und Chirurgen dienen oder selbsttätig Operationen durchführen. Manche dieser Anwendungen erlauben es auch, durch Feedback und die Optimierung von Arbeitsprozessen die Skills in der Anwendung zu verbessern.

Im Pflegebereich werden bereits Roboter eingesetzt, die mechanische Tätigkeiten von Pflegekräften unterstützen, etwa in der Mobilisierung von Patientinnen und Patienten, im Tragen schwerer Lasten oder im Zuteilen von Medikamenten. Dabei werden Roboter in Form autonomer Geräte oder als Exoskelette verwendet, welche die Muskelkraft von Anwenderinnen und Anwendern unterstützen und verstärken. Darüber hinaus finden in der Pflege auch sogenannte Socially Assistive Robots (SAR) Anwendung. SAR ermöglichen die Integration von physischen Tätigkeiten mit sozialer Interaktion und werden besonders im Bereich der Langzeitpflege genutzt. Ein prominentes Beispiel ist Paro, ein KI-gestützter Roboter in Form einer Baby-Robbe. Paro reagiert auf Ansprache und Berührungen, simuliert Emotionen und Verhalten und kann so mit Nutzerinnen und Nutzern interagieren. Es konnte gezeigt werden, dass der Einsatz von Paro zur Verringerung von Gefühlen der Einsamkeit beiträgt und therapeutische Effekte beim Einsatz für Menschen mit Demenz aufweist.

In der Administration kann ein KI-gestütztes Datenmanagement zur einer eheblichen Verringerungen der Arbeitsbelastung sowie zu einer Ressourceneinsparung beitragen. Bekanntlich stellen administrative Tätigkeiten einen maßgeblichen Zeitfaktor für Gesundheitspersonal dar. KI-Systeme können die Patientendokumentation erleichtern, das Aufnahme- und Entlassungsmanagement in Krankenhäusern optimieren und die Logistik in Gesundheitseinrichtungen effizienter gestalten. Finanzielle wie personelle Ressourcen können so sinnvoller eingesetzt werden, was v. a. bedeutet, dass Ärztinnen und Ärzte, Pflegerpersonen etc. von mechanischen und zeitintensiven Tätigkeiten zunehmend entbunden werden könnten und somit mehr Zeit für direkt patientenbezogene Tätigkeiten und v. a. die zwischenmenschliche Beziehung hätten.

Bei diesem Überblick handelt es sich nur um einen kleinen Ausschnitt bereits existierender und möglicher Anwendungen von KI in der Medizin. Allen diesen Anwendungen ist gemeinsam, dass sie grundlegend verändern, wie Dinge gemacht werden, wie Akteure in der Medizin miteinander interagieren und wie die Umwelten des Handelns und Interagierens gestaltet sind. Die ethische Betrachtung wird daher auf das Potenzial von KI-Anwendungen fokussieren, Praktiken, Beziehungen und Umwelten in der Medizin zu transformieren.

Die Ansicht, wonach KI-Anwendungen zur Transformation ärztlicher Praktiken führen werden, basiert auf der simplen Voraussetzung, dass epistemische Praktiken von Ärztinnen und Ärzten ihre Entscheidungen und die Begegnung mit Patientinnen und Patienten formt. Wie Ärztinnen und Ärzte Patientinnen und Patienten lesen, d. h. deren Daten sammeln, auswerten und interpretieren, gestaltet die Handlungen, welche Ärztinnen und Ärzte ausführen. Sind die epistemischen Praktiken KI-gestützt, spreche ich von „smart data practices“. Somit sind zwei wesentliche Felder definiert, Datensammlung und Operationalisierung von Daten, mit je einigen Herausforderungen.

Erstens bedarf es neuer Ansätze des Informed Consent, der in seiner jetzigen Form auf neue Möglichkeiten und Zwecke der Datensammlung nur bedingt anwendbar ist. Daher sind dynamische Modelle heranzuziehen, welche es Datensubjekten, d. h. Patientinnen und Patienten, ermöglichen, Ausmaß und Zweck der Datensammlung und -weitergabe sowie den zugriffsberechtigten Personenkreis zu definieren. Zweitens bedarf es zur Umsetzung solcher dynamischer Modelle wie auch zur Datensicherheit technischer Werkzeuge. Dazu gehören Encryption-Technologien oder Blockchain-Technologien, welche Datensicherheit gewährleisten und Datensubjekten eine größere Kontrolle über ihre Daten erlauben. Drittens müssen Regularien und Leitlinien geschaffen werden, die den aktuellen technischen Stand wahrnehmen und adäquat regulieren. Es gibt demnach nicht den einen Hebel, um das angesprochene Dilemma zu lösen, sondern eine Kombination aus den drei genannten Ansätzen.

Ein weiteres Risiko besteht in der Bias-Problematik. Mit Bias bezeichnet man stereotype oder diskriminierende Vorstellungen, die Individuen oder Gruppen über einzelne Merkmale definieren oder marginalisierte Gruppen aus der Betrachtung ausschließen. Im Kontext medizinischer KI-Anwendungen kann es zu einer Bias-Kaskade kommen. Enthalten bereits die Trainingsdaten, mit denen Algorithmen trainiert werden, einen Bias, werden die Algorithmen selbst einen Bias enthalten. Somit findet sich der Bias auch in den von ihnen gebildeten Datenmodellen. Eine Entscheidung schließlich, die aufgrund von gebiasten Datenmodellen getroffen wird, ist selbst gebiast.

Ein Beispiel wäre eine Bilderkennungssoftware für Melanome, die nur mit Bildern von Menschen mit weißer Hautfarbe trainiert ist und somit bei Menschen mit dunklen Hauttypen nicht mehr präzise arbeiten kann. Den ethischen Risiken der Operationalisierung von Daten kann durch sogenannte Thick-Data-Ansätze begegnet werden, d. h. durch die Erweiterung von quantitativ ausgerichteter Big Data durch qualitative Daten. Dabei sollen vor allem die konkrete Lebenssituation sowie die Werthaltungen von Patientinnen und Patienten besser abgebildet werden. Zudem können unterschiedliche Strategien zum De-Biasing von KI-Anwendungen genutzt werden, einerseits technische Ansätze, andererseits partizipative Modelle, bei welchen die Perspektive von Stakeholdern in die Technikentwicklung einbezogen wird.

Smart-Data-Praktiken werden die Begegnung zwischen Ärztinnen und Ärzten und Patientinnen und Patienten umformen. Da Ärztinnen und Ärzte vermehrt mit Datenmodellen interagieren, die eine Reduktion der tatsächlichen Gegebenheiten darstellen und Patientinnen und Patienten zunehmend KI-Anwendungen selbsttätig nutzen, verändert sich auch die Arzt-Patienten-Beziehungen. Es ergeben sich neue Rollen für die beteiligten Akteure. Da KI-Anwendungen „artificial agents“, d. h. autonome oder teilautonome Akteure darstellen und nicht bloß passive Werkzeuge sind, wird die bis dato dyadische Beziehung Ärztin/Arzt-Patientin/Patient aufgebrochen. Dabei ist es wichtig zu beachten, dass unterschiedliche Rollen in der Technik angelegt sind, je nachdem, zu welchen Zwecken KI-Anwendungen entwickelt, implementiert und genutzt werden. Im idealen Setting nehmen Ärztinnen und Ärzte die Rolle eines gestärkten Praktikers („enhanced practitioner“) ein. KI-Anwendungen fungieren als „enabler“, haben also eine unterstützende und ermöglichende Funktion, um Ärztinnen und Ärzte in die Lage zu versetzen, Best Practice zu leisten. Patientinnen und Patienten könnten in einem solchen Setting von KI-Anwendungen als „empowered patients“ profitieren, indem Prozessabläufe vereinfacht und optimiert werden und die Kommunikation verbessert wird. Zugleich könnten Patientinnen und Patienten KI-Anwendungen selbsttätig nutzen und damit zum einen mehr Kontrolle über ihre eigenen Gesundheitsdaten erhalten, zum anderen aktiv an der Behandlung teilnehmen, was v. a. hinsichtlich von Prävention und Selbstmanagement bei chronischen Erkrankungen von Vorteil wäre.

Nicht wünschenswert wäre ein Setting, in welchem KI-Anwendungen als Ersatz („substitute“) für Ärztinnen und Ärzte konzipiert und eingesetzt werden und diesen die Rolle eines „supervisor“ zukommt, der bloß noch automatisierte Prozesse überwacht. Das würde eine Entmenschlichung der Medizin und den Verlust von Vertrauen mit sich bringen, was die therapeutische Beziehung aushöhlen und zu einer Dienstleistungsbeziehung umformen würde. Folgerichtig sehen manche Autorinnen und Autoren auch die zukünftige Rolle von Patientinnen und Patienten als emanzipierte Konsumentinnen und Konsumenten („emancipated consumer“), die ihre Gesundheit größtenteils selbst mittels KI-Anwendungen managen und nur bei Bedarf auf ärztliche Dienstleistungen zurückgreifen, die wiederum größtenteils durch KI-Anwendungen geleistet werden. Eine derartige Sichtweise verkennt, dass die Automatisierung einzelner Behandlungsschritte kein Ersatz für eine Behandlung sein kann, die auf einer therapeutischen Beziehung beruht. Ein Erkennen von Melanomen oder die korrekte Diagnose einer bestimmten Erkrankung lässt sich allenfalls an KI-Anwendungen delegieren. Patientinnen und Patienten zu behandeln bedeutet jedoch, eine Person in ihrer Gesamtheit zu erfassen, vereinzelte Datensätze mit ihrer Persönlichkeit und sozialen sowie familiären Situation zu kontextualisieren und ihre Werthaltungen und Präferenzen zu respektieren. Ebenso, wie eine Person mehr ist als die Summe ihrer Datensätze, ist auch eine Behandlung mehr als die Summe von Einzeltätigkeiten. Vertrauen und die Anerkennung als Person mit individuellen Bedürfnissen, Ressourcen und Werthaltungen sind die Voraussetzung für autonomes Handeln und Entscheiden von Patientinnen und Patienten.

Der massive Technikeinsatz, den eine KI-gestützte Medizin erfordert, wird die materiellen Umwelten von Ärztinnen und Ärzten wie von Patientinnen und Patienten verändern. Es kommt zu einem Ausbau der technischen Infrastruktur und zu einer Zunahme von Hardware in medizinischen Einrichtungen. Kompetenzen im Umgang mit der Technik („digital literacy“) müssen daher stärker in der medizinischen Aus‑, Fort- und Weiterbildung verankert werden. Aber auch im privaten Bereich hält die KI-gestützte Medizintechnik Einzug. Der für die Leistungsfähigkeit von KI-Anwendungen erwünschte ständige Datenfluss zwischen der Ärztin oder dem Arzt und der Patientin oder dem Patienten erweitert den klinischen Blick jenseits der Mauern der medizinischen Domäne in die Privatheit. Somit ist auch die immaterielle Umwelt von Personen betroffen.

Die Auflösung der klaren Grenze zwischen privatem Bereich und medizinischer Domäne wirft Fragen nach dem Wert von Privatheit auf. Ebenso ist im Einzelfall abzuwägen, ob eine Technisierung der eigenen Häuslichkeit der beste oder einzige Weg einer bedarfsgerechten Versorgung ist. Wenn etwa Sensor- und Monitoringtechnologien in der eigenen Häuslichkeit älterer Personen genutzt werden, um ihnen ein möglichst langes Leben außerhalb von Pflegeeinrichtungen zu unterstützen, muss das nicht im Sinne der Betroffenen sein. In vielen Fällen wäre eine persönliche Betreuung, etwa durch ambulante Pflege die bedarfsgerechte, wenn auch kostenintensivere Variante. Hier besteht die Gefahr, dass Technik als Mittel der Kostenreduktion die tatsächlichen Bedarfe von Patientinnen und Patienten überdeckt.