Bias (dt. Verzerrung, Voreingenommenheit) bezeichnet systematische Fehler in KI-Ergebnissen, die entstehen, wenn Trainingsdaten oder Modelle bestimmte Gruppen oder Sichtweisen bevorzugen oder benachteiligen. Ein Beispiel: Ein Bewerbungsfilter, der mit historischen Daten trainiert wurde, könnte Frauen benachteiligen, weil in der Vergangenheit mehr Männer eingestellt wurden. Bias-Bekämpfung umfasst diverse Daten, Audits und faire Trainingsverfahren.
Kurz beantwortet
Was ist Bias bei KI?
Bias ist eine systematische Verzerrung in KI-Ergebnissen, die oft durch einseitige Trainingsdaten entsteht. Ein Bewerbungsfilter könnte beispielsweise Frauen benachteiligen, wenn er mit historischen, männlich dominierten Daten trainiert wurde. Massnahmen dagegen sind diverse Daten, Audits und faire Trainingsverfahren.
KI im Unternehmen einsetzen?
Wir zeigen Ihnen, welche Anwendungen sich für Ihre Organisation lohnen.