KI-Glossar
Bias (Verzerrung)
Systematische Verzerrung in KI-Ergebnissen, oft durch einseitige Trainingsdaten.
Definition
Bias (dt. Verzerrung, Voreingenommenheit) bezeichnet systematische Fehler in KI-Ergebnissen, die entstehen, wenn Trainingsdaten oder Modelle bestimmte Gruppen oder Sichtweisen bevorzugen oder benachteiligen. Ein Beispiel: Ein Bewerbungsfilter, der mit historischen Daten trainiert wurde, könnte Frauen benachteiligen, weil in der Vergangenheit mehr Männer eingestellt wurden. Bias-Bekämpfung umfasst diverse Daten, Audits und faire Trainingsverfahren.
Verwandte Begriffe
Quellen: a16z AI Glossary · CNET AI Terms Glossary