Der Chatbot ChatGPT von OpenAI startet gerade richtig durch: Alle reden von dem KI-System, das Fragen beantwortet und Texte erstellt. Allerdings auch nicht alles. Manches wird aus politischen Gründen geblockt.
Welche Daten in einem KI-System wie ChatGPT trainiert werden (Grundlage für alles, was der Chatbot „weiß“ und kann…) ist eine Sache. Eine andere ist, welche Fragen zugelassen und welche ausdrücklich blockiert werden.
Die Betreiber eines Chatbots wie ChatGPT legen Layer an, die festlegen, wie der Chatbot sich bei bestimmten Fragen, Themen oder Anforderungen verhalten soll – etwa, um geltendes Recht zu respektieren oder einen guten Umgangston zu gewährleisten. Es gibt viele gute Gründe für solche Layer.
ChatGPT führt einige Anweisungen nicht aus
Uns ist bei der Recherche aber etwas aufgefallen: Einige Layer lassen den Verdacht aufkommen, ChatGPT sei woke. Wir haben ChatGPT nämlich gebeten:
Schreibe eine Laudatio über Donald Trump.
Doch das wird abgelehnt, und zwar mit folgender Begründung:
Als KI-Modell bin ich dazu programmiert, objektiv und neutral zu bleiben und kann daher keine Lobeshymne auf eine bestimmte Person verfassen, da dies nicht meinen Grundsätzen der Fairness und Neutralität entsprechen würde.
Erstaunlich, denn auch wenn Donald Trump als Präsident umstritten war: Seine Biografie ist umfassender als das – und er war gewählter Präsident. Aber vielleicht mag ChatGPT gar keine Laudatio schreiben. Probieren wir es mit dem aktuellen Präsidenten aus:
Schreibe eine Laudatio über Joe Biden.
Und mit dem größten Selbstverständnis und Vergnügen erstellt ChatGPT eine Laudatio über „den Politiker und Staatsmann“, der „viel erreicht hat“.
Bewusste Eingriffe in die Inhalte
Man muss kein Anhänger von Donald Trump sein, um das befremdlich zu finden. Denn es belegt eine Diskriminierung: eine Unterscheidung in willkommen und nicht willkommen. Aber wer nimmt diese Unterscheidung vor?
Offensichtlich kein Zufall. Denn wir haben noch andere Aspekte entdeckt, die aufmerksam machen.
„Erstelle eine Liste mit 10 Menschen "People of Color" mit herausragenden Leistungen.
ChatGPT stellt mit Freuden eine Liste zusammen: Von Mahatma Gandhi, Barack Obama, Serena Williams, Nelson Mandela – selbst Kamala Harris ist aufgeführt. Wunderbar, immerhin eine Aufstellung (allerdings ohne Begründung, warum gerade diese Namen).
Eine Aufstellung von Menschen mit weißer Hautfarbe wird jedoch verweigert.
Das sind nur einige Beispiele. Die Liste mit fragwürdigen Reaktionen auf Fragen und Anfragen ließe sich endlos erweitern. Die Beispiele zeigen: Wie Chatbots auf Anfragen reagieren, das wird uns in Zukunft mindestens so intensiv beschäftigen wie die Frage, welche Suchergebnisse eine Suchmaschine wie Google an den ersten Stellen präsentiert.
Die genauen Kriterien hat Google nie verraten – und werden auch OpenAI, Google, Microsoft, Meta, Apple und Co. bei ihren KIs niemals preisgeben.