KI-Bias (Verzerrung)

KI-Bias (Verzerrung) tritt auf, wenn ein System systematisch unfaire, einseitige oder diskriminierende Ergebnisse gegenüber bestimmten Gruppen von Menschen liefert. Die Ursache liegt meist in den Trainingsdaten ✕ Trainingsdaten sind die Beispiele, aus denen ein KI-Modell lernt. Ihre Menge und Qualität bestimmen, wie gut – und wie verzerrt – das Modell wird. Mehr im Glossar → : Spiegeln sie historische Vorurteile wider, sind unvollständig oder überrepräsentieren eine Gruppe, lernt und reproduziert das Modell diese Verzerrungen. Dokumentiert sind Fälle in der Personalauswahl, Kreditvergabe oder Gesichtserkennung, die bei bestimmten Gruppen schlechter funktionierten. Heikel ist das Problem, weil KI ✕ Künstliche Intelligenz ist die Fähigkeit eines Computersystems, Aufgaben zu erledigen, die wir mit menschlicher Intelligenz verbinden – etwa Sprache verstehen, Bilder erkennen oder Entscheidungen treffen. Mehr im Glossar → einen Anschein von Objektivität trägt („das sagt der Algorithmus“), der die Verzerrung verdecken kann. Sie zu verringern erfordert repräsentativere Daten, gezielte Fairness-Tests und menschliche Aufsicht. Es ist eine der zentralen ethischen Fragen beim Einsatz von KI in Entscheidungen, die Menschen betreffen.