Bias im Datenmeer: Wie Vorurteile in Modelle gelangen – und was wir dagegen tun

Vererbung von Schieflagen: Datensätze spiegeln Macht­strukturen. Wenn weibliche Führungskräfte im Training unterrepräsentiert sind, reproduziert das Modell stereotype Muster. Mitigation beginnt daher vor der Tokenisierung: Quellenkurator*innen müssen Diversität als Messgröße etablieren.

Auditing und Metrics: Technologien wie Sliced Wasserstein Distance oder Contextualized Embedding Associations ermöglichen quantitative Prüfungen. Doch Metriken alleine heilen keine Diskriminierung. Interdisziplinäre Panels aus Soziologie, Linguistik und Informatik müssen Ergebnisse interpretieren.

Conclusion: Bias‑Bekämpfung ist kein einmaliges Pre‑Processing, sondern ein fortlaufender Governance‑Prozess mit klaren Verantwortlichkeiten.