Mit der stetig voranschreitenden Verbesserung der Leistungsfähigkeit Künstlicher Intelligenz (KI) verbinden sich in einer unüberschaubaren Vielfalt von Anwendungsfeldern große Chancen und Hoffnungen auf Verbesserungen der Lebensqualität. Gleichzeitig werden in der gesellschaftlichen Diskussion auch erhebliche moralische Bedenken geäußert. In einem besonderen Maße gilt dies für den Einsatz von KI-Systemen im Rahmen der Medizin, denn in der medizinischen Praxis sind Patient:innen oft mit existenziellen Sorgen und Nöten konfrontiert. Da die Entwicklung der Bilderkennung mittels KI in der Neuroradiologie bereits weit entwickelt ist, bedarf dieses Anwendungsfeld besonderer Aufmerksamkeit.
Während die ethischen Prinzipien in vielen medizinischen Behandlungsverhältnisses etabliert sind, herrscht Forschungsbedarf hinsichtlich der Frage, wie der Einsatz von künstlicher Intelligenz dieses Behandlungsverhältnis beeinflusst und auf welche Weise die einschlägigen medizinethischen Prinzipien beim Einsatz von KI Anwendung finden. Große Herausforderungen erwachsen insbesondere beim Einsatz von KI in der neuroradiologischen Praxis aus der Problematik, dass entscheidende Teile der internen Prozesse moderner KI-Systeme weder vom medizinischen Fachpersonal noch von den softwareerstellenden Personen nachvollzogen werden können und damit unklar bleibt, wie etwa eine KI zu einem Analyseergebnis oder einer Behandlungsempfehlung gekommen ist.
Wenn durch KI durchgeführte Diagnosen einen medizinischen Eingriff rechtfertigen sollen, aber in ihrer Entstehung nicht nachvollziehbar sind, hat das Einfluss auf die moralische Bewertung der informierten Einwilligung? Wie gehen wir damit um, wenn selbstlernende KI-Systeme mittels Mustererkennung Fehlbefunde produzieren, die im klinischen Kontext als solche nicht erkannt werden? Besteht zudem die Gefahr, dass KI-Systeme das ärztliche Arbeiten nicht bloß unterstützen, sondern ersetzen und damit auch die Selbstbestimmung der Ärzt:innen untergraben? Was bedeutet dies für das Vertrauensverhältnis zwischen Patient:innen und Ärzt:innen?
Eine ethische Analyse dieser und weiterer moralphilosophisch relevanter Gesichtspunkte ist daher notwendig, um sowohl die Entwicklung wie auch den Einsatz KI-gestützter Prognoseverfahren so zu beeinflussen, dass KI ihr Potenzial entfalten kann, menschliches Leben zu bereichern.
Der Einsatz von „intelligenter Technik“ im Alltag ist nicht neu. Von Sprachassistenten bis zur Gesichtserkennung– viele Bereiche unseres Lebens sind bereits vom Einsatz intelligenter Technik geprägt. Da ist es kaum verwunderlich, dass derartige Systeme auch über den Alltag hinaus zum Einsatz kommen, beispielsweise in der Medizin. In diesem Bereich wird insbesondere die „Künstliche Intelligenz“ (KI) zukünftig dominieren, die versucht, menschliches Denken und Lernen auf Computer zu übertragen, indem Denkleistung und Entscheidungsstruktur des Menschen imitiert werden.
Vor allem im Bereich der medizinischen Diagnosis und Entscheidungsfindung werden KI-basierte Verfahren immer wichtiger. Ihr Einsatz birgt allerdings eine Vielzahl rechtlicher Problematiken, denen dieses Projekt sich widmet. Zunächst wird das bestehende Recht analysiert. Dies betrifft zuvorderst das –kürzlich auf europäischer Ebene grundlegend reformierte– Medizinprodukterecht, das den Einsatz von Geräten in der Medizin regelt. Darüber hinaus ist auch eine nähere Betrachtung der Datenschutzgrundverordnung geboten, da KI-gestützte Verfahren personenbezogene Daten verarbeiten können und sich somit Fragen des Persönlichkeitsschutzes auftun. Außerdem birgt das ärztliche Berufsrecht Herausforderungen, insbesondere im Hinblick auf das Verbot der Fernbehandlung, den Arztvorbehalt und die ärztliche Verantwortung.
Von großer Relevanz erscheint außerdem die Frage, ob im Falle einer nicht sachgemäßen Behandlung oder Einschätzung durch die KI-gestützten Verfahren auftretende Fehlerquellen überhaupt identifizierbar sind und wer genau haftet. Sind es die IT-Experten, die das Verfahren programmiert haben, der Vertreiber oder doch der behandelnde Arzt? Sollten in dieser ersten Bewertung der aktuellen rechtlichen Situation gewisse Schwächen oder Lücken erkennbar sein, so ist es Ziel des Projekts, herauszuarbeiten, wie mit diesen identifizierten Herausforderungen zukünftig umgegangen werden soll.
Künstliche Intelligenz wird schon bald Einzug in die radiologische Praxis halten. Ärzt:innen (z.B. Hausärzte) und Patient:innen werden dann mit KI-basierten Befunden im Praxisalltag konfrontiert sein. Ob sich diese neue Technologie jedoch bewähren und durchsetzen kann, hängt vor allem davon ab, dass ihr in dem sensiblen Bereich der medizinischen Versorgung einerseits von den unmittelbar Betroffenen, andererseits aber auch von der Gesellschaft insgesamt Vertrauen entgegengebracht wird.
Bisherige empirische Studien verweisen darauf, dass Vorteile solcher Technologien, wie z.B. die größere Genauigkeit computergestützter Diagnosen, anerkannt werden. Gleichzeitig bestehen ihnen gegenüber aber auch Berührungsängste und Bedenken. Diese Bedenken umfassen etwa die Sorge um technische Fehlleistungen oder die Befürchtung einer Verschlechterung der Beziehung zwischen Ärzt:innen und Patient:innen.
Das Teilprojekt geht der Frage nach, wie die unmittelbar Betroffenen – nämlich Patient:innen und behandelnde Ärzt:innen - Nützlichkeit und Vertrauenswürdigkeit KI-gestützter radiologischer Befunde einschätzen. Um die Hintergründe für erwartete Chancen, aber auch Belastungen und Komplikationen sowie die Gründe für befürchtete Konsequenzen für das Arzt-Patienten-Verhältnis zu verstehen, werden wissenschaftlich begleitete und moderierte Kleingruppendiskussionen durchgeführt. Diese sollen einen gegenseitigen Austausch zwischen Patient:innen und Ärzt:innen ermöglichen.
Anschließend werden Vertrauen und Akzeptanz radiologischer KI-Anwendungen in der gesamten Breite der Gesellschaft untersucht. Eine deutschlandweite repräsentative Bevölkerungsbefragung soll aufklären, in welchem Ausmaß die von den unmittelbar Betroffenen - Ärzt:innen und Patient:innen - als relevant erachteten Aspekte auch gesamtgesellschaftlich eine Rolle spielen und welche weiteren vertrauensbildenden Faktoren und Rahmenbedingungen hinzutreten.
Angestrebt wird ein Erklärungsmodell für die Akzeptanz und die Bewertung von Vertrauenswürdigkeit KI-gestützter Diagnose und Entscheidungsfindung. Dazu liefern die Studien, die in diesem Teilprojekt durchgeführt werden, eine wichtige Voraussetzung.
Die Neuroradiologie ist eines der Fachgebiete der Medizin, die sich zukünftig am ehesten mit der Anwendung von KI-basierten Technologien im klinischen Alltag auseinandersetzen werden. In der Neuroradiologie ergeben sich aus dem intensiven Gebrauch medizinisch-diagnostischer Bildgebungsverfahren (z. B. Computertomographie, Magnetresonanztomographie) eine Vielzahl digitaler bildbasierter Daten, deren Auswertung viel Potenzial für die Implementierung KI-basierter Technologien bietet. In der Allgemeinbevölkerung bekannte Krankheitsbilder aus der Neuromedizin, bei denen KI-basierte diagnostische Verfahren zum Einsatz kommen könnten, sind bspw. Schlaganfälle, Multiple Sklerose oder die Parkinson-Krankheit.
Um dazu beizutragen, einen theoretisch fundierten sowie empirisch abgesicherten Rahmen für die Bewertung des Einsatzes von KI-basierten Verfahren in der Neuromedizin zu finden, untersucht dieses Teilprojekt die Akzeptanz von KI-Technologien bei den (potenziellen) Anwendern im Bereich der Neuroradiologie. Hierzu werden in einem ersten Schritt Experteninterviews mit Neuroradiologen und Neuroradiologinnen in Deutschland geführt, die sich im Zusammenhang mit ihrer Arbeit bereits mit dem Thema KI auseinandergesetzt haben. Anhand dieser Experteninterviews werden Faktoren ermittelt, die für die Akzeptanz KI-basierter Technologien in der klinischen Praxis aus Anwenderperspektive von besonderer Bedeutung sein können (z. B. Vertrauen, Nützlichkeit, Interpretierbarkeit, Haftbarkeit). Auf der Basis dieser Faktoren – sowie unter Berücksichtigung theoretischer Modelle und der Ergebnisse aus den anderen Teilprojekten – wird eine Online-Befragung in der Gesamtpopulation der Neuroradiologen und Neuroradiologinnen in Deutschland durchgeführt. Auf diese Weise soll ein evidenzbasiertes Erklärungsmodell wichtiger Determinanten für die KI-Technologie-Akzeptanz aus der neuroradiologischen Anwenderperspektive gewonnen werden.