Zuletzt geprüft: Juli 2026 · KI & Automatisierung
Halluzinationen
Halluzinationen sind erfundene Inhalte von KI-Sprachmodellen: Fakten, Zitate, Quellen oder Rechtsgrundlagen, die überzeugend klingen und schlicht nicht stimmen. Sie entstehen, weil Modelle Wahrscheinlichkeiten fortschreiben statt Wissen abzurufen. Das lässt sich reduzieren, aber nicht abschalten: Der Umgang damit gehört zur KI-Kompetenz.
Warum dich das betrifft
Das Tückische an Halluzinationen ist ihr Selbstbewusstsein: Die erfundene Studie kommt mit Autor und Jahreszahl, der erfundene Paragraf mit Absatz. Wer KI-Ausgaben ungeprüft in Angebote, Rechtstexte oder Fachartikel übernimmt, riskiert genau die Peinlichkeiten, die inzwischen regelmäßig durch die Presse gehen.
Das Risiko sinkt mit Handwerk: Quellen mitliefern lassen und stichprobenartig öffnen, bei Fakten die Websuche des Werkzeugs nutzen, dem Modell erlauben, „weiß ich nicht“ zu sagen, und kritische Aussagen grundsätzlich gegenprüfen. Meine Faustregel: KI liefert den Entwurf, die Verantwortung für jede Tatsachenbehauptung bleibt beim Menschen.
Was kostet das ehrlich?
Halluzinationen kosten nichts, bis sie etwas kosten: eine falsche Zahl im Angebot, eine erfundene Quelle im Fachtext, ein Vertrauensverlust beim Kunden. Die Gegenmaßnahmen sind kostenlos und lernbar. Im KI-Workshop gehört der Umgang mit erfundenen Inhalten zum Kern, geübt an euren echten Texten statt an Beispielen aus dem Internet.
So gehe ich das an: Im KI-Workshop lernst du, Halluzinationen zu provozieren und zu erkennen: Wer die Schwächen kennt, nutzt die Stärken gelassener. Contact →
Quellen
- BSI: Künstliche Intelligenz — Das Bundesamt zählt Halluzinationen zu den Kernrisiken generativer KI.
- Datenschutzkonferenz: Orientierungshilfe KI und Datenschutz — Auch die Aufsichtsbehörden verlangen menschliche Kontrolle der Ausgaben.