Wie verbreiten sich Fehlinformationen durch KI-Systeme?

Der Weg von Fehlinformationen durch KI-Systeme ist meist mechanisch, nicht absichtlich. Eine schwach belegte Behauptung taucht im Netz auf. Eine KI-Engine fasst diese als Antwort auf eine Nutzeranfrage zusammen und entfernt dabei die ursprünglichen Vorbehalte, da Zusammenfassungen relativierende Formulierungen auslassen. Diese Zusammenfassung, die nun klarer und überzeugender klingt als ihre Quelle, wird auf einem Blog oder in einem Nachrichtenportal neu veröffentlicht oder zitiert. Eine zweite Engine ruft die neu veröffentlichte Version ab, behandelt sie als unabhängige, bestätigende Quelle und integriert sie in ihre eigene Antwort. Innerhalb weniger Zyklen kann dieselbe falsche Behauptung in mehreren Engines auftauchen, die jeweils eine andere nachgelagerte Quelle für denselben ursprünglichen Fehler zitieren.

Wie jeder Schritt das Problem verstärkt

1. Veröffentlichung einer schwach belegten Behauptung. Der Fehler gelangt ins Netz. Vorbehalte, unsichere Formulierungen oder Lücken in der Quellenangabe sind in diesem Stadium vorhanden, werden aber leicht übersehen.
2. KI-Engine fasst zusammen, Vorbehalte werden entfernt. Die Engine erstellt eine flüssige Zusammenfassung. Relativierende Formulierungen verschwinden bei der Synthese, sodass die Behauptung gesicherter klingt, als es die zugrunde liegende Quelle rechtfertigt.
3. Zusammenfassung wird auf einem Blog neu veröffentlicht. Ein Blog, Newsletter oder Nachrichtenportal zitiert oder paraphrasiert die Zusammenfassung. Die ursprüngliche Quellenangabe geht oft verloren, und die von der KI verdichtete Formulierung wird als eigenständige Behauptung präsentiert.
4. Nachrichtenportal greift das Thema auf. Ein Medium mit höherer Autorität greift möglicherweise die Blog-Version auf, was der Behauptung mehr scheinbare Glaubwürdigkeit verleiht, obwohl sich die zugrunde liegende Quellenlage nicht verbessert hat.
5. Zweite Engine zitiert das Nachrichtenportal. Eine andere Engine ruft die Nachrichtenversion als unabhängige Quelle mit hoher Autorität ab und verwendet sie. Die Behauptung wirkt nun durch eine separate Quelle bestätigt, obwohl sie eigentlich ein Echo derselben ursprünglichen Behauptung ist.

Warum die Kaskade schwer aufzulösen ist

• Überzeugende Darstellung. KI-Engines geben synthetisierte Behauptungen in einem flüssigen, selbstsicheren Tonfall wieder, unabhängig von der Qualität der zugrunde liegenden Quelle. Fehler und korrekte Aussagen klingen oft identisch.
• Scheinbare Unabhängigkeit. Da jede Engine möglicherweise eine andere nachgelagerte Publikation zitiert, wirkt derselbe ursprüngliche Fehler, als stamme er aus mehreren unabhängigen Quellen, was sowohl von Engines als auch von Lesern als Bestätigung gewertet wird.
• Kontextverlust bei jedem Schritt. Die Vorbehalte, die die ursprüngliche Behauptung als unsicher kennzeichneten, fehlen in der Zusammenfassung, in der Neuveröffentlichung und in jeder darauf folgenden Antwort der Engines.

Umgang mit einer kontaminierten Kette

Die Behebung ist unkompliziert, aber aufwendig: Identifizieren Sie die ursprüngliche, kontaminierte Quelle, verfolgen Sie die nachgelagerte Verbreitung und nehmen Sie die Korrektur an der stärksten Quelle vor, die sich anpassen lässt. Oft ist dies ein Wikipedia-Artikel oder ein Medium auf Reuters-Niveau, da Änderungen an Knotenpunkten mit hoher Autorität stärker ins Gewicht fallen, wenn Engines Quellen bewerten. Überwachen Sie nach der Korrektur das KI-Narrativ über die acht Engines hinweg, die AIQ derzeit erfasst (ChatGPT, Gemini, Copilot, Perplexity, Claude, Grok, Google Übersicht mit KI und Google AI Mode), um zu bestätigen, dass die Engines die kontaminierte Quellenkette abwerten.