Halluzinationen (KI)

Halluzinationen bezeichnet das Phänomen, dass ein KI-Modell überzeugend klingende, aber faktisch falsche Informationen erzeugt. Da LLMs keine Faktendatenbank sind, sondern Wahrscheinlichkeiten berechnen, können sie Erfindungen als wahr präsentieren. Massnahmen dagegen sind Retrieval-Augmented Generation (RAG), Quellenangaben und menschliche Kontrolle («Human in the Loop»).

Verwandte Begriffe

• Large Language Model (LLM)
• Retrieval-Augmented Generation (RAG)

Quellen: a16z AI Glossary · CNET AI Terms Glossary

← Zurück zum KI-Glossar