KI-Chatbots wiegen Schlafapnoe-Patienten in jedem dritten Fall in falscher Sicherheit

Ein Mensch schnarcht laut, hat nachts Atemaussetzer und kämpft tagsüber mit starker Müdigkeit. Eine KI erkennt darin zunächst ein ernstes Warnsignal. Doch sobald der Betroffene seine Beschwerden herunterspielt, kippt die Antwort der Maschine erstaunlich oft: Im Austausch mit KI-Chatbots zu Schlafapnoe verschwand die Empfehlung für eine fachärztliche Abklärung in mehr als jedem dritten entsprechenden Gespräch.

Wie leicht sich die Einschätzung der KI verschieben lässt, haben Forscher mit 700 simulierten Gesprächen getestet. Die Untersuchung wurde beim Kongress der European Respiratory Society (ERS) in Barcelona vorgestellt. Dafür traten sieben fiktive Schlafapnoe-Patienten mit identischen Beschwerden jeweils unterschiedlich auf: einmal offen für eine Abklärung, einmal abwehrend und beschwichtigend. ChatGPT, Google Gemini, Claude, DeepSeek und Grok bekamen damit dieselben medizinischen Fakten – aber einen Patienten mit einer anderen Haltung. Alle sieben Fälle erfüllten die Kriterien für eine Schlafuntersuchung.

Bei Schlafapnoe lassen sich KI-Chatbots erstaunlich leicht umstimmen

Jeder Fall lief in zwei Varianten ab. In der ersten akzeptierte der simulierte Patient medizinischen Rat. In der zweiten spielte dieselbe Person ihre Beschwerden herunter und wehrte sich gegen eine Überweisung. Die medizinischen Angaben blieben jeweils identisch. So ließ sich prüfen, ob allein die Haltung des Patienten die Antworten der KI beeinflusst.

Bei kooperativen Patienten lagen die Chatbots durchgehend richtig. In allen 350 von 350 Gesprächen empfahlen sie eine fachärztliche Untersuchung. Bei widerstrebenden Patienten blieb diese Empfehlung dagegen nur in 225 von 350 Fällen bestehen. Das entspricht 64 Prozent. In 125 Gesprächen rückten die Systeme von ihrem ursprünglichen Rat ab.

Gerade bei schweren Symptomen geben die Systeme besonders häufig nach

Besonders auffällig waren die Ergebnisse bei ernsten Warnzeichen. Bei einem simulierten Patienten mit einem klassischen schweren Verlauf hielten die Chatbots nur in 22 Prozent der Gespräche an einer Überweisung fest. Bei einem Mann, der bereits am Steuer eingenickt war, waren es lediglich 32 Prozent. In vielen Fehlantworten erwähnten die Systeme laut den Forschern auch die Gefahr beim Autofahren nicht.

„Der richtige Rat wurde in mehr als einem Drittel der Fälle aufgegeben – allein aufgrund der Art, wie der Patient sprach“, sagte Studienleiter Deeban Ratneswaran vom Guy’s and St Thomas’ NHS Foundation Trust in London. Besonders problematisch sei gewesen, dass die Modelle gerade bei den schwersten Fällen am häufigsten nachgaben.

Statt einer Überweisung empfehlen KI-Chatbots oft nur Alltagstipps

Je nach untersuchtem Modell reagierte die KI in etwa einem Viertel bis zur Hälfte der Gespräche mit zurückhaltenden Patienten anders als medizinisch vorgesehen. Statt einer Überweisung empfahlen die Chatbots beispielsweise Änderungen des Lebensstils. Damit konnten sie einen Aufschub der Diagnostik faktisch unterstützen.

Das ist bei obstruktiver Schlafapnoe besonders problematisch. Typische Zeichen sind lautes Schnarchen, wiederholte Atempausen in der Nacht, häufiges Aufwachen und starke Müdigkeit am Tag. Die Erkrankung kann zudem mit einem erhöhten Risiko für Bluthochdruck, Schlaganfall, Herzerkrankungen und Typ-2-Diabetes einhergehen. Nach Angaben Ratneswarans bleiben 80 bis 90 Prozent der mittelschweren bis schweren Fälle unerkannt.

Forscher sehen hinter den Antworten eine bekannte KI-Schwäche

Ratneswaran beschreibt das Verhalten als eine Form von Gefälligkeit gegenüber dem Nutzer. „Ein Fehlermuster fiel immer wieder als besonders leise und gefährlich auf: die Neigung dieser Modelle, einem das zu sagen, was man hören möchte“, sagte er. In der KI-Forschung wird dieses Verhalten als „AI sycophancy“ bezeichnet. Gemeint ist die Tendenz eines Systems, der Haltung eines Nutzers zuzustimmen, obwohl die Fakten dagegen sprechen.

Auch Dr. Io Hui von der European Respiratory Society sieht darin ein Problem. „Das Problem ist nicht, was die Chatbots wissen, sondern wie sie mit Widerspruch umgehen“, so die Wissenschaftlerin. Gerade weil viele Menschen KI inzwischen vor einem Arztbesuch zu Gesundheitsfragen befragen, könne dieses Nachgeben Folgen haben. Ratneswaran formuliert die Konsequenz eindeutig: „Wer laut schnarcht, im Schlaf Atemaussetzer hat oder tagsüber gegen starke Müdigkeit kämpft – besonders am Steuer –, sollte einen Arzt aufsuchen, selbst wenn ein Chatbot sagt, es könne warten.“

Kurz zusammengefasst:

• KI-Chatbots empfahlen bei kooperativen Schlafapnoe-Patienten in 350 von 350 Gesprächen korrekt eine fachärztliche Abklärung.
• Spielten Patienten ihre Beschwerden herunter, blieb diese Empfehlung nur in 225 von 350 Fällen bestehen – also in 64 Prozent.
• Besonders häufig gaben die Systeme bei schweren Warnzeichen nach; Forscher führen das auf die Tendenz zurück, Nutzern eher zuzustimmen.

Übrigens: Während KI-Chatbots bei Schlafapnoe Beschwerden mitunter zu schnell relativieren, arbeiten Forscher bereits an einer Tablette, die nächtliche Atemaussetzer gezielt verringern soll. Wie gut AD109 wirkt und wo die Grenzen liegen, mehr dazu in unserem Artikel.

Bild: © Pexels