Wenig Vertrauen in Dr. ChatGPT
Bis Menschen medizinischen Ratschlägen einer KI vertrauen, ist noch ein weiter Weg
Menschen vertrauen medizinischen Ratschlägen weniger, wenn sie vermuten, dass eine künstliche Intelligenz an deren Erstellung beteiligt ist. Das ist das zentrale Ergebnis einer Studie Würzburger Psychologen.
Früher haben die Menschen Dr. Google befragt, wenn sie wissen wollten, ob ihre Symptome für eine leichte Magenverstimmung sprechen oder doch für Krebs im Endstadium; heute wenden sich dafür zunehmend an ChatGPT. Mit der Folge, dass niedergelassene Mediziner sich über Patientinnen und Patienten beschweren, die mit fertigen Diagnosen aus dem Internet in die Sprechzimmer kommen und sich nur mit Mühe davon überzeugen lassen, dass sie nicht schwer erkrankt sind.
Tatsächlich ist das Vertrauen in die medizinische Kompetenz einer künstlichen Intelligenz (KI) längst nicht so ausgeprägt, wie es den Anschein hat. Das ist zumindest das Ergebnis einer neuen Studie, die jetzt in der Fachzeitschrift Nature Medicine veröffentlicht wurde.
Ein ausgeprägtes Misstrauen gegenüber der KI
Sie zeigt, dass Menschen medizinische Ratschläge als weniger zuverlässig und empathisch beurteilen, wann immer eine KI daran beteiligt war. Das war selbst dann der Fall, wenn die Studienteilnehmer annehmen konnten, dass ein Arzt oder eine Ärztin unter Zuhilfenahme einer KI diese Empfehlungen erstellt hatte. Konsequenterweise waren die Befragten bei KI-unterstützten Entscheidungen auch in geringerem Maße dazu bereit, diesen zu folgen – verglichen mit Ratschlägen, die ausschließlich auf ärztlicher Expertise basierten.
Verantwortlich für diese Studie von Seiten der Julius-Maximilians-Universität (JMU) sind Moritz Reis und Professor Wilfried Kunde vom Lehrstuhl für Psychologie III. Die Studie entstand in Zusammenarbeit mit Florian Reis von der Pfizer Pharma GmbH.
„Das Setting unserer Studie ist angelehnt an eine Digital Health-Plattform, auf der Informationen zu medizinischen Fragestellungen eingeholt werden können – also ein Setting, welches mit der zunehmenden Digitalisierung an Relevanz dazugewinnen wird“, beschreiben die Autoren ihr Vorgehen.
Keine Unterschiede in der Verständlichkeit
Mehr als 2.000 Studienteilnehmerinnen und -teilnehmer erhielten im Rahmen des Experiments identische medizinische Ratschläge und sollten diese auf ihre Verlässlichkeit, Verständlichkeit und Empathie bewerten. Der einzige Unterschied: Während eine Gruppe die Information erhielt, diese Ratschläge stammten von einem Arzt beziehungsweise einer Ärztin, hieß es für die zweite Gruppe, ein KI-gestützter Chatbot sei dafür verantwortlich. Die dritte Gruppe wurde in dem Glauben gelassen, ein Arzt oder eine Ärztin habe die Empfehlung unter Zuhilfenahme einer KI erstellt.
Die Ergebnisse sind eindeutig: Menschen vertrauen medizinischen Empfehlungen weniger, wenn sie vermuten, dass KI beteiligt ist. Das gilt auch dann, wenn sie glauben, dass ärztliches Personal daran mitgewirkt hat. Auch in der Kategorie „Empathie“ schneidet der ärztliche Rat besser ab als die beiden KI-Varianten. Einzig unter dem Aspekt der Verständlichkeit zeigen sich kaum Unterschiede zwischen den drei Gruppen. Anscheinend haben Menschen unter diesem Gesichtspunkt keine Vorbehalte gegen die Technik.
Vertrauen ist wichtig für den Behandlungserfolg
„Das ist ein wichtiger Befund, da Vertrauen in medizinische Diagnosen und Therapieempfehlungen bekanntermaßen ein sehr wichtiger Faktor für den Behandlungserfolg ist“, bewerten die Autoren das Studienergebnis. Gerade vor dem Hintergrund einer möglichen Entbürokratisierung und Entlastung des ärztlichen Arbeitsalltags durch eine Kooperation mit KI erhalten diese Erkenntnisse einen besonderen Stellenwert. Ihrer Ansicht nach bildet die Studie somit einen Startpunkt für eine detaillierte Erforschung der Bedingungen dafür, wie KI in Diagnostik und Therapie eingesetzt werden kann, ohne das Vertrauen und die Mitwirkung von Patientinnen und Patienten zu gefährden.
Originalveröffentlichung
Weitere News aus dem Ressort Wissenschaft
Holen Sie sich die Life-Science-Branche in Ihren Posteingang
Ab sofort nichts mehr verpassen: Unser Newsletter für Biotechnologie, Pharma und Life Sciences bringt Sie jeden Dienstag und Donnerstag auf den neuesten Stand. Aktuelle Branchen-News, Produkt-Highlights und Innovationen - kompakt und verständlich in Ihrem Posteingang. Von uns recherchiert, damit Sie es nicht tun müssen.
Meistgelesene News
Weitere News von unseren anderen Portalen
Verwandte Inhalte finden Sie in den Themenwelten
Themenwelt Diagnostik
Die Diagnostik ist das Herzstück der modernen Medizin und bildet in der Biotech- und Pharmabranche eine entscheidende Schnittstelle zwischen Forschung und Patientenversorgung. Sie ermöglicht nicht nur die frühzeitige Erkennung und Überwachung von Krankheiten, sondern spielt auch eine zentrale Rolle bei der individualisierten Medizin, indem sie gezielte Therapien basierend auf der genetischen und molekularen Signatur eines Individuums ermöglicht.
Themenwelt Diagnostik
Die Diagnostik ist das Herzstück der modernen Medizin und bildet in der Biotech- und Pharmabranche eine entscheidende Schnittstelle zwischen Forschung und Patientenversorgung. Sie ermöglicht nicht nur die frühzeitige Erkennung und Überwachung von Krankheiten, sondern spielt auch eine zentrale Rolle bei der individualisierten Medizin, indem sie gezielte Therapien basierend auf der genetischen und molekularen Signatur eines Individuums ermöglicht.
