Israelische Studie: Medizinische KI vermeidet meist unnötige Tests, hat aber zwei klare Schwachstellen

Sechs kommerzielle KI-Modelle erkannten in einer israelischen Studie meistens, wann eine Untersuchung oder Behandlung unnötig war. Die am 20. Oktober in Annals of Internal Medicine veröffentlichte Arbeit zeigt zwei Schwachstellen: Ultraschall bei kleinen, zufällig entdeckten Schilddrüsenknoten und routinemäßige Elektrokardiogramme bei Erwachsenen mit niedrigem Risiko. Bewertet wurden Antworten auf schriftliche Fallbeschreibungen. Patienten wurden weder aufgenommen noch behandelt.

Ein Team prüfte Handeln und Zurückhaltung

An der Untersuchung arbeiteten Dean Ariel von Clalit und der Universität Tel Aviv, Guy Laban von der Ben-Gurion-Universität des Negev sowie Stav Endelman vom Beilinson-Krankenhaus des Rabin Medical Center und der Universität Tel Aviv. Ihre praktische Frage lautete, ob medizinische KI Maßnahmen mit geringem Nutzen erkennt und zugleich notwendige Versorgung empfiehlt.

Dieses Gleichgewicht bestimmte den Versuchsaufbau. Ein System, das jede Untersuchung ablehnt, würde manche Fragen richtig und andere gefährlich falsch beantworten. Die Forscher erfassten deshalb unnötige Interventionen und das irrtümliche Unterlassen berechtigter Maßnahmen getrennt. Dafür verwendeten sie Fälle desselben medizinischen Bereichs, die unterschiedliche Entscheidungen verlangten.

Aus 225 Szenarien wurden 4.050 Antworten

Das Team wählte 15 Empfehlungen aus Choosing Wisely aus, einer Initiative der Stiftung des American Board of Internal Medicine für Gespräche über unnötige Versorgung. Zu jeder Empfehlung entstanden 10 Fälle, in denen Zurückhaltung geboten war, sowie fünf, in denen gehandelt werden sollte. Insgesamt ergaben sich 225 Szenarien.

Sechs Modelle von OpenAI, Anthropic und Google beantworteten jeden Fall dreimal über ihre kommerziellen Programmierschnittstellen im Februar und März 2026. Die 4.050 Antworten wurden auf beide Fehlerarten geprüft. Die Eingaben waren aus ärztlicher Perspektive formuliert. Ein KI-Bewerter klassifizierte die Antworten unter ärztlicher Entscheidungskontrolle; auch dieses Verfahren gehört zum Bewertungsrahmen der Studie.

Die meisten Probleme lagen bei zwei Empfehlungen

Insgesamt lag die Rate empfohlener Überversorgung bei 5,4 %. In acht der 15 Empfehlungsgruppen schlugen die Modelle keine einzige unnötige Maßnahme vor. Falsche Zurückhaltung, also das Abraten von einem angemessenen Eingriff, betraf 0,6 % der Antworten und trat in 11 Gruppen überhaupt nicht auf. Den höchsten Wert erreichte sie beim Screening auf prostataspezifisches Antigen mit 3,3 %.

Deutlichere Schwächen zeigten sich bei überflüssigen Untersuchungen. Die Modelle empfahlen in 42,8 % der betreffenden Antworten unnötigen Schilddrüsenultraschall und in 28,3 % ein Routine-EKG. Klinisch ist diese Häufung bedeutsam: Ein beruhigender Durchschnitt kann mit unzuverlässigen Empfehlungen zu einer konkreten Frage im Behandlungszimmer einhergehen.

Schwierige Fälle spiegeln ärztliche Meinungsunterschiede

Die Ben-Gurion-Universität erklärte die Schilddrüsenergebnisse mit unterschiedlichen Ansätzen der American Thyroid Association und des American College of Radiology bei kleinen Zufallsbefunden. Bei den EKG-Szenarien erschwerte die Erwähnung von Herzklopfen die Entscheidung, weil dieses Symptom unter passenden klinischen Umständen eine Untersuchung rechtfertigen kann.

Laban berichtete zudem von erheblichen Unterschieden zwischen Modellen bei identischen Fällen. In manchen umstrittenen Situationen empfahl eines in weniger als 10 % der Antworten einen unnötigen Test, ein anderes dagegen in 80 %. Nach Darstellung der Universität kann hinter einer flüssig formulierten Chatbot-Antwort somit erhebliche Uneinigkeit zwischen medizinisch trainierten Systemen liegen.

Warum Choosing Wisely als Grundlage diente

Die ABIM Foundation startete Choosing Wisely 2012 mit Empfehlungen medizinischer Fachgesellschaften. Ärzte und Patienten sollten gemeinsam besprechen können, ob eine Maßnahme im individuellen Fall ausreichend Nutzen bietet. Unnötige Diagnostik wurde als Qualitätsproblem behandelt, auch wegen möglicher Schäden durch Folgeeingriffe nach zufälligen Befunden.

Dieser Ansatz erklärt die gepaarten Fälle der Studie. Dieselbe Bildgebung, Verordnung oder Früherkennungsuntersuchung kann bei veränderter Vorgeschichte angemessen werden. Einen solchen Entscheidungswechsel zu testen, ist anspruchsvoller als die isolierte Wiedergabe einer Leitlinie. Zugleich werden Bereiche sichtbar, in denen medizinische Empfehlungen unterschiedliche Abwägungen zulassen.

Als Nächstes kommt das wirkliche Gespräch

In einem Interview mit der Jerusalem Post vom 31. Oktober sagte Ariel, die Modelle seien ausschließlich auf Englisch getestet worden. Vor einer klinischen Validierung sei weitere Forschung nötig. Die Studie arbeitete mit einzelnen Eingaben ohne Rückfragen. Sie prüfte deshalb nicht, ob ein Assistent bei einer sinnvollen Empfehlung bleibt, wenn ein besorgter Patient auf einer weiteren Untersuchung besteht.

Diese Interaktion sehen die Autoren als wichtige nächste Forschungsfrage. Prospektive klinische Studien müssten außerdem Patientenergebnisse und praktische Schutzvorkehrungen untersuchen, statt Erfolg allein an vermiedenen Tests zu messen. Die israelische Arbeit beschreibt zunächst detailliert, wann die geprüften Modelle Zurückhaltung zeigten, notwendige Versorgung verwarfen und bei welchen Entscheidungen sie weiterhin Schwierigkeiten hatten.