KI trifft heute viele Entscheidungen: Ob die Tür aufgeht, welche Inhalte wir in der Timeline sehen, ob wir für das autonome Auto ein Passant darstellen oder nicht. Leider diskriminieren einige KI-Systeme. Das ist meistens nicht gewollt, sollte aber beseitigt werden.
Wer bei Twitter einen Tweet postet, der mit einem Foto garniert ist, muss mitunter zusehen, wie Twitter das Foto beschneidet – damit es perfekt in die Timeline der User passt. Der Algorithmus, der den passenden Ausschnitt bestimmt, scheint nicht über jeden Zweifel erhaben. User haben Auffälligkeiten entdeckt, die auf eine mögliche Form der Diskriminierung hinweisen.
Seit dem Tod von George Floyd gibt es eine verstärkte Debatte für Diskriminierung und Rassismus. Es werden offensichtliche Fälle von Diskriminierung angesprochen und kritisiert, ebenso die Rassismus-Frage gestellt. Aber das nicht nur da, wo es jedem einleuchtet, sondern auch in Bereichen, die vielleicht überraschen. Zum Beispiel in der Digitalisierung. Auch da gibt es Diskriminierung – ja auch Rassismus. Denn auch Algorithmen sind nicht immer objektiv und gerecht.
Die aktuelle Debatte über Diskriminierung und Rassismus reicht bis in die IT-Technologie. Auch hier gibt es Begriffe, an denen sich manche stören – oder die zumindest diskussionswürdig sein könnten.
Auch Algorithmen sind nur Menschen: Eigentlich sollten sie vorurteilsfrei entscheiden. Geschlecht, Hautfarbe, Religion, Herkunft – kann einem Algorithmus im Grunde alles egal sein. Aber weil Menschen Algorithmen programmieren oder KI-Systeme trainieren, kommt es immer wieder zu Diskriminierung. Teilweise mit erheblichen Folgen. Das Land NRW will dagegen etwas unternehmen.