Halluzinationen bezeichnet das Phänomen, dass ein KI-Modell überzeugend klingende, aber faktisch falsche Informationen erzeugt. Da LLMs keine Faktendatenbank sind, sondern Wahrscheinlichkeiten berechnen, können sie Erfindungen als wahr präsentieren. Massnahmen dagegen sind Retrieval-Augmented Generation (RAG), Quellenangaben und menschliche Kontrolle («Human in the Loop»).
Kurz beantwortet
Was sind Halluzinationen in der KI?
Halluzinationen sind überzeugend klingende, aber falsche Antworten eines KI-Modells. Da Sprachmodelle keine Fakten speichern, sondern Wahrscheinlichkeiten berechnen, können sie Erfindungen als wahr präsentieren. Gegenmittel sind RAG, Quellenangaben und menschliche Kontrolle.
KI im Unternehmen einsetzen?
Wir zeigen Ihnen, welche Anwendungen sich für Ihre Organisation lohnen.