Big App

In den letzten Jahren hat sich die Nutzung Künstlicher Intelligenz (KI), insbesondere von Sprachmodellen wie ChatGPT, Google Gemini, Claude oder anderen, rasant verbreitet. Diese Tools gelten als Wunderwerke moderner Technologie – sie können programmieren, Texte schreiben, medizinische Daten analysieren und sogar Gedichte verfassen. Doch gleichzeitig mehren sich die Berichte, dass KI-Modelle „immer mehr Unsinn“ von sich geben. Immer häufiger wird deutlich: KI halluziniert Unsinn – sie erfindet überzeugend klingende, aber faktisch falsche oder sinnlose Aussagen. Nutzer wundern sich über falsche Fakten, widersprüchliche Aussagen oder inhaltlich wirre Antworten.

Was ist da los? Wurde die KI schlechter? Oder haben sich unsere Erwartungen verändert? In diesem Artikel beleuchte ich die Hintergründe dieser Entwicklung, zeige auf, woran es liegen kann, und was mögliche Lösungsansätze wären.

1. Die Wahrnehmung verändert sich: Die „Illusion der Intelligenz“

Als KI-Modelle wie GPT-3 oder ChatGPT 3.5 veröffentlicht wurden, war die Begeisterung groß. Die Texte wirkten sprachlich flüssig und oft überzeugend – ein echter „Wow-Effekt“. Doch mit steigender Nutzung wuchs auch das Bewusstsein für die Schwächen. Die Folge: Was anfangs noch beeindruckte, fällt heute als „Unsinn“ auf, weil wir genau hinschauen. Anders gesagt: Die KI ist nicht unbedingt schlechter geworden – wir sind kritischer geworden.

Beispiel:

Ein Nutzer fragt: „Wer hat das Telefon erfunden?“
Früher reichte die Antwort „Alexander Graham Bell“ – heute erwarten viele eine differenzierte Antwort, die auch Antonio Meucci erwähnt.

Fazit: Unsere steigende Erwartungshaltung lässt vorher akzeptierte Schwächen heute als Unsinn erscheinen.

2. Sprachmodelle halluzinieren – und zwar systematisch

Ein zentrales Problem heutiger KI-Sprachmodelle ist das sogenannte „Halluzinieren“. Das bedeutet: Die KI erfindet Antworten, die überzeugend klingen, aber faktisch falsch oder frei erfunden sind. Das liegt daran, dass diese Modelle keinen echten „Verstand“ oder Faktenbasis haben. Sie berechnen lediglich, wie eine wahrscheinliche nächste Zeichenfolge aussehen könnte – basierend auf Milliarden von Beispielen.

Warum passiert das?

• Die Modelle haben kein Weltmodell und verstehen nicht, was wahr oder falsch ist.

• Sie wurden auf riesigen Textmengen trainiert, darunter auch viele widersprüchliche oder fehlerhafte Informationen.

• Wenn es keine eindeutige Antwort gibt, rät das Modell anhand sprachlicher Wahrscheinlichkeit.

3. Größere Modelle sind nicht automatisch besser

Mit GPT-4, Claude 3 und Gemini 1.5 wurden Modelle veröffentlicht, die noch größer und „intelligenter“ sein sollen. Doch mehr Parameter bedeuten nicht automatisch mehr Genauigkeit. Im Gegenteil: Je größer das Modell, desto größer die Gefahr, dass es auch stärker halluziniert, wenn es versucht, kontextabhängige oder kreative Antworten zu geben.

Außerdem neigen moderne Modelle dazu, besonders sicher aufzutreten – selbst wenn sie Unsinn erzählen. Diese Selbstsicherheit täuscht viele Nutzer und wirkt im Nachhinein frustrierend.

4. Kontextverlust und Prompt-Fatigue

Viele KI-Systeme speichern keine dauerhafte Erinnerung und haben ein begrenztes Kontextfenster. Das bedeutet:

• Bei langen Unterhaltungen „vergessen“ sie wichtige Informationen.

• Sie wiederholen sich oder widersprechen sich im Verlauf eines Gesprächs.

• Wenn Nutzer vage oder zu allgemeine Fragen stellen („Was ist das beste Android-Handy?“), produziert die KI eine wenig fundierte Standardantwort – was als Belanglosigkeit wahrgenommen wird.

5. Verantwortungslos eingesetzte KI: SEO-Content und KI-Bots

Ein weiterer Grund für den gefühlten Anstieg an Unsinn liegt außerhalb der Modelle selbst: Immer mehr Webseiten, Unternehmen und Plattformen setzen KI ungefiltert ein, um Inhalte zu generieren – vor allem für SEO-Zwecke. Das Ergebnis sind:

• Massenhafte, halbgar geschriebene Blogartikel.

• Fake-Bewertungen und Kommentare.

• Forenbeiträge oder Support-Antworten, die nichts mit der Frage zu tun haben.

Das Netz wird regelrecht mit „KI-Müll“ geflutet – was den Eindruck verstärkt, dass KI generell schlechter geworden sei.

6. Mögliche Lösungen: Qualität statt Quantität

a) Faktenbasierte Modelle mit Quellenangaben

Ein vielversprechender Ansatz ist die Kombination von Sprachmodellen mit Retrieval-Systemen: Statt rein aus dem Sprachmodell zu antworten, sucht das System zuerst nach echten Quellen und formuliert daraus die Antwort. Das tut z. B. ChatGPT mit „Browse with Bing“ oder Gemini mit „Search-enhanced responses“.

Vorteil: Die KI kann sagen, woher die Information stammt – und der Nutzer kann nachprüfen.

b) Systematische Modellkritik und Benchmarks

Open-Source-Communities und Forschungsteams entwickeln zunehmend Benchmarks, um Halluzinationen und Fehler systematisch zu messen. Tools wie TruthfulQA, MT-Bench oder BiasEval helfen, die Modelle objektiv zu bewerten und gezielt zu verbessern.

c) Besseres Prompting

Auch auf Nutzerseite kann man viel falsch (oder richtig) machen. Wenn man KI klare, präzise und strukturierte Fragen stellt (z. B. mit Beispielen oder einer festen Rolle), liefert sie bessere Antworten. Das sogenannte „Prompt Engineering“ wird zunehmend wichtiger.

d) Mehr Transparenz und Aufklärung

Plattformen und Entwickler müssen klarer kommunizieren, was KI kann – und was nicht. Nutzer sollten verstehen, dass KI keine magische Wahrheit erzeugt, sondern ein Tool ist, das gut oder schlecht eingesetzt werden kann.

Fazit

Die Beobachtung, dass KI immer öfter „Unsinn“ antwortet, ist real – aber vielschichtig. Sie hängt mit den Schwächen der Modelle zusammen, mit unserer gestiegenen Erwartungshaltung und mit dem häufig fragwürdigen Einsatz von KI in der Praxis.

Statt uns blind auf KI zu verlassen, sollten wir lernen, sie kritisch, gezielt und bewusst zu nutzen. Dann kann sie ein mächtiges Werkzeug sein – aber eben kein Ersatz für gesunden Menschenverstand und echte Fachkenntnis.