piranka / Getty Images / iStock
Was die medizinischen, rechtlichen und ethischen Folgen von Künstlicher Intelligenz betrifft, sind sich die Experten einig: Die eigentliche Debatte darüber hat noch gar nicht begonnen.
Künstliche Intelligenz (KI) kann mittels Algorithmen Prozesse übereinanderlegen und gleichzeitig Schlüsse daraus ziehen. Mit der „individualisierten Medizin“ verspricht sie uns eine bessere Diagnostik und Behandlung. Wer übernimmt aber die Verantwortung, wenn es zur kommerziellen Anwendung von KI kommt? Haftet der Hersteller, der Anwender oder der, der den Algorithmus geschrieben hat? Über die Chancen und Risiken von Künstlicher Intelligenz diskutierten Mediziner und KI-Spezialisten am 18. Mai 2022 am JKU MED Campus Linz. Als Motto der Veranstaltung war ein Satz von Stephen Hawking vorangestellt. „KI ist wahrscheinlich das Beste oder das Schlimmste, was der Menschheit passieren kann.“
Die Pandemie und die damit einhergehenden raschen Medikamentenentwicklungen haben einige gesellschaftliche Verwerfungen ausgelöst. Das gipfelte in dem Verdacht, wir bekämen durch eine Impfung Sensoren implementiert und würden sodann von amerikanischen Multimilliardären ferngesteuert. Kulturgeschichtliche Stereotype haben sich in uns eingebrannt, wo – so wie bei Johann Wolfgang von Goethes Zauberlehrling – plötzlich der Besen das Kommando übernimmt. Es ist die unbestimmte Angst, dass fremde Kräfte oder Maschinen einmal über uns dominieren könnten. Kein Wunder, konnte uns doch nicht einmal Stephen Hawking sagen, wie die Sache ausgeht.
KI-Systeme in allen Bereichen robuster machen
Prof. Dr. Günther Klambauer, Institute for Machine Learning, JKU Linz
Barbara Amon
„Wir entwerfen Algorithmen im Bereich des maschinellen Lernens, die KI-Systeme besser bzw. schneller machen. Ich selbst arbeite in erster Linie im medizinischen Life-Science-Bereich und bewege mich zwischen Pharma, Chemie und Drug-Discovery, wobei uns von großen Pharmafirmen teilweise riesige Datenmengen zur Verfügung gestellt werden. Schnell lernende KI-Systeme wurden auch in der Pandemie eingesetzt. So konnte Paxlovid™ durch den Einsatz von KI innerhalb von vier Monaten entwickelt werden. Bei SARS-CoV 1 waren in einer Studie bereits mehr als 300.000 small molecules, also wirkstoffähnliche Substanzen, in einer Datenbank gespeichert. Davon wurden 300 in biologischen Tests gefunden, bei denen man sich einen potenziellen positiven Effekt erwarten konnte.
Neben der Effizienz von KI ist Multimodalität ein weiterer wichtiger Aspekt. Am Beginn des KI-Einsatzes in der Medizin im vorigen Jahrzehnt (2010er-Jahre) lag der Fokus auf der Analyse von medizinischen Bildern. In den vergangenen Jahren versucht man eine größere Anzahl von Modalitäten, also verschiedene Datentypen wie Bilder, Texte, tabellarische Daten wie Blutbilder, genetische Daten usw., einfließen zu lassen. Eine große Chance liegt heute in der Behandlung, indem man etwa Genexpressionsmarker verwendet. Mit diesen individuellen Charakteristika kann die Wirksamkeit von Kombinationstherapien besser vorausgesagt werden. Insgesamt versucht man, die KI-Systeme in allen Bereichen, nicht nur in der Medizin, robuster zu machen. D. h., sie sollen auch bei stark geänderten Bedingungen oder in Extremfällen noch gut funktionieren.
Unser Institut ist Teil des europäischen Netzwerks ELLIS, das Grundlagenforschung im Bereich der KI, des maschinellen und des Deep Learning betreibt. Mittels eines Bottom-up-Prozesses haben sich hier verschiedene Exzellenz-Institute aus ganz Europa vernetzt. Künstliche Intelligenz, Medizin und Life-Sciences, Chemie, Molekularbiologie – was die Exzellenz in der Kombination von Medizin und Informationstechnologien betrifft, ist Vernetzung und Interdisziplinarität entscheidend, weshalb diese auch gezielt gefördert werden sollten. Was die gesellschaftliche Debatte über die Folgen von KI betrifft, stehen wir am Anfang.“
Prof. Dr. Günther Klambauer, Institute for Machine Learning, JKU Linz
Der Roboter kann ein Vermittler zwischen Menschen sein
Laura Moradbakhti, MSc, Doktorandin am Robopsychology Lab der JKU Linz Institute of Technology
privat
Am LIT Robopsychology Lab forscht Frau Moradbakhti zur Interaktion zwischen Mensch und Maschine. In Ihrer Doktorarbeit beschäftigt sie sich vor allem mit psychologischen Grundbedürfnissen – Autonomie, Kompetenz und Soziale Eingebundenheit - und inwiefern Technologien diese erfüllen können, oder nicht. Auf die Frage „Was KI im Bereich der Pflegerobotik leisten kann“ verweist sie in erster Linie auf die Entlastung von Pflegepersonal. Ein Pflegeroboter kann zum Beispiel Patientinnen und Patienten an die Einnahme von Medikamenten erinnern oder Ihnen die Sicherheit geben, das Pflegepersonal in einem Notfall zu alarmieren. Was aus ihren aktuellen Studienumfragen hervorgeht, ist, dass Patienten und Patientinnen auch Interesse an Pflegerobotern bekunden. Trotzdem soll niemals der menschliche Kontakt wegfallen, das ist wichtig. Pflegeroboter können eher als Zusatz gesehen werden, wenn sie das Pflegepersonal bei repetitiven Aufgaben unterstützen, bleibt letztendlich auch mehr Zeit für den persönlichen Kontakt mit den Patienten und Patientinnen.
Psychologische Fragen spielen in der Forschung um künstliche Intelligenz eine wichtige Rolle, vor allem in Bezug auf Design Faktoren. Sollen Maschinen besonders menschlich aussehen? Wie sollen Voice Assistants (zu Deutsch: Sprachassistenten) klingen? Warum haben Voice Assistants meistens eine weibliche Stimme? Dies sind Fragestellungen die Frau Moradbakhti am LIT Robopsychology Lab wissenschaftlich untersucht. Ihre Studienergebnisse deuten darauf hin, dass existierende Stereotypen auch auf die Wahrnehmung von KI übertragbar sind. Männliche Teilnehmer einer Online Studie bevorzugten beispielsweise einen weiblichen Voice Assistant mit passiver Umgangsform, während weibliche Teilnehmer und Teilnehmerinnen einen weiblichen, aber proaktiven Voice Assistant bevorzugten. Hierbei ist wichtig zu überdenken, ob es richtig ist den Wünschen der Teilnehmer und Teilnehmerinnen blind nachzugehen und diese umzusetzen. Denn Technologien könnten dadurch gewisse Vorurteile verstärken. In einer anderen Studie zeigte sich zum Beispiel, dass weibliche Teilnehmerinnen, die in einer Onlinestudie eine Video Vignette zu einem männlichen Pflegeroboter gesehen haben, anschließend weniger Stereotypen gegenüber Berufen hatten, die gesellschaftlich oft Männern zugeschrieben werden. Diese Ergebnisse deuten darauf hin, dass nicht-stereotypisch designte Technologien auch dafür eingesetzt werden können, unser Weltbild positiv zu prägen.
„Mit dem Einsatz von KI sind auch zahlreiche Ängste verbunden, die teilweise von den Medien geschürt werden. Das betrifft etwa die Angst vor Jobverlusten. Das ist menschlich, wenn man mit etwas konfrontiert ist, was man nicht klar einschätzen und kontrollieren kann. Angst hat man vor allem vor dem Unbekannten, mit einem größeren Wissen vermindern sich aber die Ängste. Daher ist für Patienten und Patientinnen vor allem Aufklärung und Transparenz wichtig, die Schwächen und Grenzen von künstlicher Intelligenz müssen offen kommuniziert werden."
Laura Moradbakhti, MSc, Doktorandin am Robopsychology Lab der JKU Linz Institute of Technology
Der Umgang mit KI ist auch ein Generationenthema
Prof. Dr. Tobias Gotterbarm, Vorstand der Universitätsklinik für Orthopädie und Traumatologie, Kepler Universitätsklinikum Linz
JKU
„Durch Künstliche Intelligenz (KI) werden uns Medizinern Unmengen an Daten zur Verfügung gestellt. Leider wurden wir nicht dazu ausgebildet, damit umzugehen bzw. diese Daten richtig zu interpretieren. Da die Medizin keine exakte Wissenschaft ist, gibt es eine Spannbreite an Interpretationsmöglichkeiten, in denen man richtig, aber auch falsch liegen kann. Darum bedarf es einer Plattform bzw. Oberfläche, welche die Daten so aufbereitet, dass man als Arzt damit auch Entscheidungen treffen kann. Das Ganze ist aber auch ein Abwägen zwischen Helfen und Bevormunden. Entweder hilft KI mir bei meiner Entscheidung, oder sie entscheidet für mich. Psychologisch kann das für einen erfahrenen Arzt ein schwieriger Lernprozess sein, wenn er seine Expertise hintanstellen und dem KI-System recht geben muss.
Ich habe beobachtet, dass eine „Bevormundung“ durch ein KI-System bei jüngeren Kolleginnen und Kollegen leichter akzeptiert wird. Die Nintendo-Generation weist eine viel größere Affinität und Begeisterung auf, ihre Vorurteile sind geringer. Orthopädie und Traumatologie sind sehr bildlastige Fächer, darum ist die Unterstützung durch KI sehr hilfreich. Arthrose-Grade lassen sich dadurch besser und objektiver einstufen, bei Frakturmustern haben wir mittlerweile eine 95-prozentige Erkennungsrate. Zur Verfügung gestellte objektive Marker durch die KI können dem Arzt einzelne Arbeitsschritte abnehmen und diese können dann in die Entscheidungsgrundlage einfließen. Wird das KI-System noch besser, kann man andere Kriterien wie Gehstrecke oder das subjektive Leiden des Patienten miteinbeziehen. Die Arbeitserleichterung durch noch bessere Bildanalysen wäre sicher enorm.
Um Big-Data-Management, das Vorher-Nachher und operative Entscheidungen in eine logische Kette zu setzen, müssen aber noch die passenden Rechen-Algorithmen gefunden werden. Optimal wäre eine durchgehende Linie, laut der man sich von der Prävention über die Behandlung bis zur Rehabilitation auf verlässliche Daten stützen kann, um so die optimale Behandlung für den individuellen Patienten zu definieren.“
Prof. Dr. Tobias Gotterbarm, Vorstand der Universitätsklinik für Orthopädie und Traumatologie, Kepler Universitätsklinikum Linz