KI-Halluzinationen: Wenn Googles neue Suche falsche Antworten liefert

KI-Halluzinationen entstehen, wenn Sprachmodelle plausible, aber falsche oder erfundene Inhalte generieren. Die Modelle kombinieren Muster aus Trainingsdaten, ohne echtes Verständnis von Wahrheit oder Realität. In Suchmaschinen wie Googles AI Overviews führt das dazu, dass Nutzer direkt falsche Zusammenfassungen erhalten, ohne die Originalquellen zu prüfen. 

Besonders kritisch wird es, weil die Antworten autoritär und selbstsicher wirken. Viele Nutzer vertrauen der obersten Zusammenfassung und klicken gar nicht mehr weiter. 

Absurde Fehlschläge und virale Beispiele

Seit der Einführung von AI Overviews häufen sich peinliche und teils gefährliche Fälle. Ein Klassiker, von dem die "New York Post" berichtete: Die KI empfahl, Klebstoff in Pizzasauce zu mischen, damit der Käse besser haftet, eine Verdrehung eines satirischen Forumsbeitrags. Manche Nutzer probierten es tatsächlich aus. 

Weitere Beispiele umfassen Empfehlungen, Steine zu essen, falsche Gesundheitsratschläge bei Krebs oder erfundene historische Fakten. Selbst bei sensiblen Themen wie Wahlen oder Medizin tauchen Fehlinformationen auf. Google musste mehrfach technische Anpassungen vornehmen, um die schlimmsten Ausreißer zu reduzieren. 

Ursachen und systematisches Problem

Halluzinationen sind kein simpler Programmierfehler, sondern ein strukturelles Merkmal großer Sprachmodelle. Ursachen liegen in unvollständigen oder widersprüchlichen Trainingsdaten, darunter Satireseiten wie The Onion, die als seriöse Quellen missverstanden werden. Auch der Druck, immer eine Antwort zu liefern, statt "Ich weiß es nicht" zu sagen, verstärkt das Problem. 

Neuere "Reasoning"-Modelle zeigen teils sogar mehr Halluzinationen bei komplexen Aufgaben, obwohl sie in anderen Bereichen Fortschritte machen. Experten warnen vor einem Teufelskreis: KI-generierte Inhalte könnten künftig die Trainingsdaten weiter verschmutzen.  

Auswirkungen auf Nutzer und Verlagswesen

Für Nutzer birgt die Entwicklung Risiken, von falschen Ernährungstipps bis zu gefährlichen Gesundheitsratschlägen. Medizinische oder rechtliche Fehlinformationen können reale Schäden verursachen. Gleichzeitig leiden Webseitenbetreiber und Verlage unter sinkendem Traffic, da KI-Inhalte die Originalquellen verdrängen.  

Kritiker sehen eine Bedrohung für die Informationsvielfalt: Das offene Web könnte hinter KI-Zusammenfassungen verschwinden, während Tech-Konzerne die Deutungshoheit über Fakten gewinnen.  

Googles Reaktion und offene Fragen

Google räumt Probleme ein und hat Dutzende Verbesserungen umgesetzt, darunter bessere Filter und Qualitätskontrollen. Dennoch bleibt die Fehlerquote spürbar. Manche Analysen sprechen von einer Genauigkeit um die 90 Prozent. Bei Milliarden Suchanfragen ergibt das Millionen falscher Antworten täglich.