Künstliche Intelligenz und Vertrauen im medizinischen Kontext

KI-Anwendungen stellen bereits heute einen wichtigen Bestandteil der medizinischen Praxis dar. Ihr Einsatz verbindet sich allerdings mit einer Reihe von Problemen. In dem Aufsatz wird ein spezifisches dieser Probleme diskutiert – die Frage, wie Vertrauen im medizinischen Kontext durch den Einsatz von KI-Technologien betroffen ist. In einem ersten Schritt wird hierzu rekonstruiert, worin die philosophische Herausforderung besteht, die sich mit Vertrauen verbindet, und es wird zweitens erläutert, welche Rolle ein plausibel verstandenes Vertrauen im Verhältnis zwischen Patient:innen und Ärzt:innen spielt. In diesem Zusammenhang wird dafür plädiert, Vertrauen konsequent von bloßem Sich-Verlassen abzugrenzen und es als eine genuin personale Beziehungsform zu interpretieren, in der Personen sich auf eine spezifische Weise aufeinander beziehen. Für das Verhältnis zwischen Ärzt:innen und Patient:innen bedeutet dies, dass Patient:innen, die Vertrauen als Wert zu realisieren versuchen, nicht nur daran interessiert sind, dass Ärzt:innen sie auf eine medizinisch kompetente Weise behandeln, sondern dass sie von ihnen als individuelle Personen betrachtet werden möchten und dabei erwarten, dass sie so gut wie möglich ihre Perspektive einnehmen. Im Hauptteil des Textes wird die Frage diskutiert, ob KI-Technologien vertraut werden kann. Diese Frage ist zentral: Beantwortet man sie positiv, könnte das Ärzt:innen-Patient:innen-Verhältnis als Vertrauensbeziehung überflüssig werden; beantwortet man sie negativ, könnte dies die Vertrauensbeziehung zwischen Ärzt:innen und Patient:innen direkt schädigen, weil wir davon ausgehen müssten, dass unsere Ärzt:innen sich einer Technologie bedienen, der man nicht vertrauen kann. In diesem Zusammenhang werden zwei wichtige Positionen diskutiert, die in der jüngsten Zeit von der These ausgehen, dass man KI-Anwendungen im medizinischen Bereich vertrauen kann – die Ansätze von Ferrario et al. (2021) und von Philip Nickel (2022). Es wird dafür argumentiert, dass diese Ansätze scheitern, weil sie unterstellen, dass Vertrauen überhaupt die richtige Kategorie im Hinblick auf eine Technologie wie KI ist. Abschließend wird angedeutet, inwiefern die Kategorie der Verlässlichkeit angemessener für unseren Umgang mit KI in der Medizin ist und uns dabei helfen könnte, Vertrauen zwischen Ärzt:innen und Patient:innen zu stärken.