Im Juni habe ich es angekündigt: Wir schauen uns genauer an, warum KI manchmal völlig überzeugend klingende Antworten erfindet – und warum Fachleute dafür das Wort „Halluzinationen” verwenden. Damals haben wir geklärt, wie eine KI lernt: Sie erkennt Muster in Bildern, Sprache und Daten und berechnet daraus Wahrscheinlichkeiten. Sie hat noch nie einen Schwan gesehen und weiß nicht, was Regen ist.
Jetzt geht es um die unangenehme Konsequenz daraus. Denn wenn eine KI nicht weiß, was wahr ist, sondern nur, was wahrscheinlich passt, dann kann sie Dinge erfinden, die es gar nicht gibt. Und sie tut es mit einer Selbstverständlichkeit, die fast unmöglich zu durchschauen ist.
Was eine „Halluzination” eigentlich ist
Der Begriff kommt aus der Forschung und ist ehrlich gesagt nicht besonders gut gewählt. Menschen, die halluzinieren, nehmen etwas wahr, das nicht da ist. Bei einer KI liegt das Problem woanders: Sie nimmt überhaupt nichts wahr. Sie hat keinen Blick auf die Welt, kein Gedächtnis im menschlichen Sinn und keine Absicht. Sie hat nur ein Ziel: das nächste Wort zu wählen, das am besten zum bisherigen Text passt.
Eine KI ist wie eine automatische Vervollständigung, die nicht nachschlägt. Sie schreibt den Satz zu Ende, der am plausibelsten klingt, auch dann, wenn die Information dahinter fehlt.
Wichtig ist dabei, was nicht dahintersteckt. Die KI lügt nicht, denn Lügen setzt Absicht voraus. Sie ist nicht böse, und sie ist auch nicht kaputt. Sie macht genau das, wofür sie gebaut wurde.
Warum die KI erfindet, statt zu schweigen
Erinnerst du dich an das Handschriften-Beispiel aus dem letzten Beitrag? Die KI erkennt Muster in Buchstabenformen und sagt dann: „Mit hoher Wahrscheinlichkeit ist das ein A.” Genauso arbeitet sie mit Texten.
Nur gibt es beim Schreiben einen entscheidenden Unterschied: Es gibt kein Feld für „Das weiß ich nicht”.
Wenn du die KI nach etwas fragst, wovon sie nichts weiß, entsteht keine Lücke, die sie auffüllt. Stattdessen produziert sie einfach weiter. Sie schreibt Wort für Wort, so wie es weitergehen könnte. Und weil eine Antwort wie „Ludwig van Beethoven wurde 1770 in Bonn geboren” sehr ähnlich aussieht wie eine Antwort mit einem falschen Jahr, ist von außen kein Unterschied zu erkennen.
Dazu kommt ein zweiter Punkt, der viele überrascht: Modelle werden meist dafür belohnt, eine Antwort zu liefern. Eine vollständige, flüssige Antwort bekommt bessere Bewertungen als ein ehrliches „Dazu weiß ich nichts.” Wenn ein System häufig für Antworten belohnt wird und selten für Schweigen, dann antwortet es eben, auch bei dünner Grundlage.
Die wichtigste Konsequenz daraus:
Es ist kein Fehler, der verschwindet
Halluzinationen sind kein Bug, den ein Update repariert. Sie entstehen aus derselben Fähigkeit, die die KI so nützlich macht: Sprache zu erzeugen, die passt.
Genau deshalb ist „warte, bis die KI besser wird” keine Antwort für Eltern. Es verbessert sich zwar die Trefferquote mit jedem neuen, stärkeren Modell, das grundlegende Problem bleibt jedoch trotzdem bestehen.
Warum es so schwer ist, das zu erkennen
Fehler kommen nicht als Fehler daher.
Eine halluzinierte Antwort ist nicht holprig, nicht zögerlich und nicht kürzer als eine richtige. Sie ist flüssig, gut gegliedert, sicher formuliert und oft reicher an Details. Genau das macht sie so überzeugend.
Folgendes Beispiel habe ich bereits in vielen Büchern und Beiträgen gelesen: Zwei Antworten auf die Frage, wann die Berliner Mauer gebaut wurde. Die erste ist kurz: 1961 und sonst nichts. Die zweite ist ausführlich: Walter Ulbricht, der damalige DDR-Staatschef, ordnete am 13. August 1960 den Bau der Berliner Mauer mit Zustimmung der Sowjetunion unter Nikita Chruschtschow an, um die Flucht der Menschen nach West-Berlin zu verhindern. Diese Antwort nennt Zusammenhänge und hat beim Jahr danebengegriffen. Welche wirkt kompetenter? Die zweite.
Genau hier liegt die Falle. Sprachliche Sicherheit ist keine faktische Sicherheit.
„Klingt überzeugend” ist nicht dasselbe wie „ist überprüft”.
Besonders heikel wird es, wenn die KI sich selbst Belege ausdenkt. Erfundene Buchtitel, erfundene Studien, erfundene Namen von Fachleuten, Fußnoten mit Seitenzahlen, die ins Nichts führen. Das klingt dann nicht nach Vermutung, sondern nach Nachweis. Für die Schule ist das der gefährlichste Fall: Ein Referat mit erfundenen Quellenangaben sieht besser aus als eines ohne. Es ist aber trotzdem wertlos.
Und leider gibt es überhaupt kein Warnsignal, das uns ins Stutzen bringen würde. Anders als Menschen zögert die KI nicht, sie wird nicht plötzlich kleinlaut, sie fragt nicht nach, sie wird nicht rot. Sie weiß nicht einmal, dass sie gerade etwas erfunden hat.
Zwei Arten von Fehlern
Es hilft, zwei Fälle zu unterscheiden.
Grob falsch. Die KI erfindet eine Veranstaltung, die es nie gab, oder eine Straße, die nicht existiert. Diese Fehler fallen meistens sehr schnell auf, speziell wenn man vor einer Mauer steht, wo angeblich eine Straße sein soll.
Fast richtig. Das Jahr ist um eins verschoben, die Zahl leicht anders, der Name fast korrekt, die Seitenzahl passt nicht. Diese Fehler sind häufiger und viel gefährlicher, weil sie beim Lesen nicht auffallen und speziell ein Kind oder auch Jugendlicher hat ohne Kontrolle keine Möglichkeit, das zu erkennen.
Wo es besonders oft passiert
Aus dem Alltag kenne ich inzwischen einige Situationen, in denen ich besonders genau hinschaue:
- Alles, was sich ändert. Öffnungszeiten, Fahrpläne, Veranstaltungen, Preise, neue Amtsträger. Die KI hat einen Wissensstand bis zu einem bestimmten Zeitpunkt (das Cut-off-Datum) was danach passiert ist, kann sie nicht wissen und füllt die Lücke trotzdem.
- Lokale und seltene Details. Eine bestimmte Schule, ein kleiner Verein, eine Buslinie in deinem Bezirk. Je weniger Material über etwas existiert, desto größer die Lücke.
- Zahlen, Daten, Zitate. Jahreszahlen, Statistiken, Mengenangaben, wörtliche Zitate. Hier klingt fast richtig besonders überzeugend.
- Personen und Werke. Wer hat welches Buch geschrieben, wer sitzt im Vorstand, wie heißt der Autor des Artikels.
- Sehr präzise Detailfragen. Je genauer die Frage, desto wahrscheinlicher wird eine Lücke mit einer flüssigen Antwort gefüllt.
Du hast zwar Recht, wenn du sagst, dass die meisten Chatbots mit einer Websuche arbeiten. Das hilft der KI zwar dabei, die Lücken etwas besser zu füllen, ersetzt aber die Prüfung der Fakten nicht. Sie reduziert das Erfinden mittlerweile erheblich, schaltet es jedoch nicht ab.
Warum das für Eltern wichtig ist
Kinder können diese Fehler höchstwahrscheinlich nicht erkennen. Ihnen fehlt einfach die Grundlage des Allgemeinwissens. Dafür sind sie ja gerade erst in der Schule, um das aufzubauen. Wer ein Thema selbst kaum kennt, kann eine Antwort nicht beurteilen. Man merkt nicht, dass eine Zahl falsch ist, wenn man nicht weiß, welche Zahl richtig wäre. Und im Falle der Berliner Mauer wäre ich auch darauf reingefallen. Um ehrlich zu sein, mit Jahreszahlen hatte ich es noch nie. Hier kann mir die KI alles mögliche vorgaukeln.
Und mal ehrlich: Auch auf mich wirkt die KI fast immer glaubwürdig. Sie antwortet sofort, sie antwortet ruhig, sie antwortet auf jede Frage. Also ich kann den Kindern keine Vorwürfe machen, wenn sie die KI für eine Autorität halten und alles abschreiben, wie ich Ende der 90er aus Microsoft Encarta abgeschrieben habe.
Und dann ist da noch ein Paradox, das auch uns Erwachsene betrifft: Je besser die KI funktioniert, desto weniger prüfen wir. Es hat doch bis jetzt alles gestimmt. Wird schon passen. Und die Kontrolle fällt weg. Und genau dann passieren aber die Fehler und keiner kontrolliert mehr.
Was Eltern mitnehmen sollten
Eltern sollten es den Kindern vorleben und eine Gewohnheit einführen:
Drei Fragen für den Faktencheck
- Woher weiß die KI das? Frag nach der Quelle und schau sie dir wirklich an.
- Steht das auch woanders? Eine zweite, unabhängige Quelle, nicht die gleiche KI nochmal fragen.
- Was würde dagegen sprechen? Frag die KI, was gegen die eigene Antwort spricht. Diese Antwort ist oft ehrlicher als die erste.
Und was deinem Kind dabei am meisten hilft, ist dein eigenes Verhalten: Wenn es sieht, dass du selbst nachschaust, alles hinterfragst, dann wird diese Arbeitsweise zur Gewohnheit.