Ukpaka Paschal, Doktorand an der Universität Johannesburg, warf während des 11. internationalen Rundtischgesprächs zur Philosophie der Medizin (2024) eine nachdenklich stimmende Frage zu Vertrauen und Autonomie auf. Während seines Vortrags stellte Paschal in Frage, ob autonome chirurgische Roboter aufgrund ihres Mangels an Kreativität als Chirurgen angesehen werden sollten.
Die anschließende Diskussion wurde durch den Kommentar einer Zuhörerin ausgelöst, die ihre Abneigung dagegen äußerte, solchen Robotern ihre Gesundheit anzuvertrauen.
Vertrauen und Autonomie bei KI-Technologien im Gesundheitswesen
Einige argumentieren, dass man KI-Technologien, einschließlich autonomer chirurgischer Roboter, aufgrund ihrer mangelnden Transparenz nicht vertrauen sollte. Ihr behauptet, dass diese Systeme nur epistemische Agenten sind, die Informationen bereitstellen und Daten analysieren, ohne eine inhärente Fähigkeit zur Kreativität oder ethischen Beurteilung.
Dieses Argument wirft Bedenken hinsichtlich der Sicherheit und Zuverlässigkeit von KI-Technologien im Gesundheitswesen auf. Ein Hauptargument gegen das Vertrauen in KI-Technologien in diesem Bereich ist ihre fehlende Rechenschaftspflicht. Kritiker behaupten, dass diese fehlende Rechenschaftspflicht diese Technologien für kritische Aufgaben wie chirurgische Eingriffe oder medizinische Notfälle unzuverlässig macht.
Eine genauere Analyse zeigt jedoch, dass die Probleme im Zusammenhang mit dem Vertrauen in KI-Technologien komplexer sind, als sie erscheinen. So ist Transparenz zwar entscheidend für den Aufbau von Vertrauen in Systeme der künstlichen Intelligenz, aber das bedeutet nicht zwangsläufig, dass das Vertrauen von vornherein gegeben sein muss.
Die Komplexität des menschlichen Gehirns bietet eine Analogie zu diesem Rätsel. Trotz der vielen Aspekte seiner Funktionsweise, die noch unbekannt sind, ist es in verschiedenen Lebensbereichen immer noch auf menschliche Urteile angewiesen.
Außerdem kann das Vertrauen in KI-Technologien unabhängig von Maßnahmen zur Rechenschaftspflicht oder Transparenz bestehen. So verlassen sich Nutzer oft auf Produkte der künstlichen Intelligenz wie virtuelle Assistenten, die sie aufgrund ihrer Erfahrungen und ihrer wahrgenommenen Zuverlässigkeit einsetzen.
Entwickler und Gesetzgeber können das öffentliche Vertrauen erheblich steigern, indem sie ethische Bedenken ansprechen und einen offenen Dialog über KI-Entscheidungsverfahren fördern.
Letztlich hängt das Vertrauen in autonome Operationsroboter und andere KI-Technologien von einem differenzierten Verständnis ihrer Fähigkeiten und Grenzen ab.