Wie sollten Gesundheitsunternehmen mit KI-generierten Gesundheitsinformationen umgehen, in denen sie erwähnt werden?

Die Risiken beim KI-Reputationsmanagement im Gesundheitswesen sind höher als in den meisten anderen Branchen. Die Antworten, die Engines zu medizinischen und pharmazeutischen Themen geben, können Patientenentscheidungen, das Verhalten von Ärzten und die Compliance-Situation beeinflussen. Eine ungenaue KI-Aussage ist daher ein Sicherheits- und Compliance-Problem, nicht nur ein Reputationsproblem. Ein professioneller Umgang erfordert ein strengeres Monitoring als in anderen Bereichen sowie Korrekturmaßnahmen, die in verlässlichen medizinischen Quellen verankert sind.

Dokumentiertes Risiko: KI-Engines sind bei klinischen Themen unzuverlässig

Dies ist ein gemessenes Problem, kein hypothetisches. Eine Querschnittsstudie aus dem Jahr 2025 in Frontiers in Digital Health testete ChatGPT-3.5, ChatGPT-4o, Copilot, Gemini, Claude und Perplexity anhand klinischer Praxisrichtlinien für lumbosakrale radikuläre Schmerzen. Die Konsistenz der Antworten reichte bei allen Engines von „inakzeptabel“ (Median 26 %) bis „fragwürdig“ (Median 68 %), und keine Engine erreichte ein für klinische Leitlinien akzeptables Niveau. Wenn KI-Engines bei einem untersuchten klinischen Thema derart unzuverlässig sind, gilt die gleiche Variabilität auch für ihre Antworten zu den Produkten, Indikationen und dem Sicherheitsprofil einer Gesundheitsmarke – Aussagen, die Patienten und Ärzte in großem Umfang erreichen können.

Warum die Risiken im Gesundheitswesen höher sind

KI-Engines generieren Antworten aus dem gesamten digitalen Fußabdruck einer Marke und können falsche oder unangemessene Behauptungen fließend formulieren, wobei erfundene Details im selben verbindlichen Tonfall präsentiert werden wie korrekte. Wenn es sich bei dem Thema um ein medizinisches Produkt oder eine Erkrankung handelt, richtet dieser Fehlermodus realen Schaden an. Die relevantesten Aussagen sind:

• Falsch angegebene Indikationen: Ein Produkt wird als Behandlung für etwas beschrieben, für das es nicht zugelassen oder vorgesehen ist.
• Falsche Kontraindikationen: Sicherheitshinweise, die ungenau oder ins Gegenteil verkehrt sind.
• Erfundene Studienergebnisse: Aussagen zur Wirksamkeit oder zu Ergebnissen, die mit keiner realen Studie übereinstimmen.
• Ungenaue Darstellungen unerwünschter Ereignisse: Über- oder untertriebene Sicherheitssignale.

Da diese Fehler die Entscheidungen von Patienten und Ärzten beeinflussen können, reichen die Konsequenzen über die Reputation hinaus bis hin zur Patientensicherheit und Compliance.

Strengere Monitoring-Disziplin

Das Monitoring muss entsprechend strenger sein. Das bedeutet häufige AIQ-Abfragen über alle von AIQ erfassten Engines hinweg, mit Prompts, die Produkte, Erkrankungen, Vergleiche und Sicherheitsthemen abdecken, sodass aufkommende Ungenauigkeiten erkannt werden, bevor sie sich verbreiten. Jede der großen Engines (ChatGPT, Gemini, Copilot, Perplexity, Claude, Grok, Übersicht mit KI von Google und der Google AI Mode) kann auf dieselbe klinische Anfrage eine andere Antwort liefern, weshalb eine engineübergreifende Abdeckung eine Voraussetzung und keine Option ist.

Korrekturmaßnahmen auf Basis verlässlicher Quellen

Korrekturmaßnahmen sollten durch die verlässlichsten verfügbaren medizinischen Referenzen gestützt werden: Peer-Review-Literatur, offizielle Arzneimittelkennzeichnungen, staatliche Gesundheitsressourcen, große medizinische Referenzseiten und Richtlinien von Fachgesellschaften. Google, OpenAI und Anthropic bieten jeweils einen formellen Feedback-Kanal zur Meldung falscher KI-generierter Informationen an. Dies ist ein Teil einer Korrekturstrategie, neben der Verbesserung des Quellen-Ökosystems, aus dem die Engines schöpfen. Diese Arbeit ist langsam und detailliert, und im Gesundheitswesen sind die Kosten hoch, wenn man darauf verzichtet.