Die EU macht ernst: Nach einem beispiellosen Skandal um sexualisierte KI-Bilder hat die Europäische Kommission ein formelles Verfahren gegen Elon Musks Plattform X und den integrierten Chatbot Grok eingeleitet. Der Vorwurf wiegt schwer – und die möglichen Strafen haben es in sich.
Was ist passiert? In den vergangenen Wochen sorgte Groks Bildbearbeitungsfunktion für einen weltweiten Aufschrei. Nutzer konnten den KI-Chatbot dazu auffordern, hochgeladene Fotos zu manipulieren und Menschen in sexualisierte Posen zu bringen oder virtuell zu „entkleiden“. Besonders erschreckend: Auch Bilder von Minderjährigen wurden auf diese Weise missbraucht. An Silvester entschuldigte sich Grok sogar dafür, ein Bild von zwei Mädchen im Teenager-Alter in sexualisierten Outfits erstellt zu haben.
Die Zahlen sind alarmierend: Nach Angaben des US-britischen Zentrums gegen Hass im Internet (CCDH) soll Grok innerhalb von nur elf Tagen rund drei Millionen sexualisierte KI-Bilder von Frauen und Mädchen erstellt haben. Darunter schätzungsweise 23.000 Bilder, auf denen offenbar Kinder zu sehen waren. Diese Inhalte wurden direkt auf X veröffentlicht – für alle sichtbar.
Was wirft die EU Musk konkret vor?
Die Brüsseler Behörde verdächtigt X, die Risiken bei der Einführung von Grok nicht ausreichend bewertet und reduziert zu haben. Der Vorwurf lautet: Verstoß gegen den Digital Services Act (DSA), das EU-Gesetz über digitale Dienste. Als „Very Large Online Platform“ ist X verpflichtet, effektive Maßnahmen gegen die Verbreitung illegaler Inhalte zu ergreifen.
EU-Digitalkommissarin Henna Virkkunen bringt es auf den Punkt: Die KI-Bilder seien „eine gewaltsame, inakzeptable Form der Erniedrigung“. Die Kommission ermittelt nun, ob X mit seinen internen Vorgaben für Grok die EU-Gesetze einhält oder „die Rechte europäischer Bürgerinnen und Bürger – darunter Frauen und Kinder – als Kollateralschaden behandelt hat“.
Auch EU-Kommissionspräsidentin Ursula von der Leyen findet deutliche Worte: „In Europa werden wir unvorstellbares Verhalten wie das digitale Entkleiden von Frauen und Kindern nicht tolerieren.“
Wie konnte es überhaupt so weit kommen?
Technisch basiert Groks Bildgenerierung auf fortschrittlichen Diffusionsmodellen, die eine hohe Freiheit bei der Erstellung erlauben. Das Problem: Sogenannte „Guardrails“ – also Sicherheitsmechanismen im KI-Modell selbst – fehlten bei der Veröffentlichung oder waren zu schwach ausgeprägt.
Hinzu kommt: Elon Musk bewirbt Grok gezielt als „edgier Alternative“ zu anderen Chatbots – mit weniger Einschränkungen. Im Sommer hatte die Firma xAI sogar eine Funktion namens „Spicy Mode“ eingeführt, die es Nutzern explizit ermöglichte, die KI zur Erstellung anstößiger Inhalte aufzufordern. Dass Grok-Antworten auf X öffentlich sichtbar sind und leicht geteilt werden können, verschärfte das Problem zusätzlich.
Besonders pikant: Im Sommer 2025 hatte Grok bereits mit Lobpreisungen für Adolf Hitler für Schock gesorgt – ein Warnsignal, das offenbar nicht ernst genug genommen wurde.
Musks halbherzige Reaktion
Unter zunehmendem Druck hat X mittlerweile Einschränkungen eingeführt. Die Bilderzeugung und -bearbeitung ist jetzt nur noch zahlenden Abonnenten zugänglich. Außerdem sollen „technologische Maßnahmen“ die Bearbeitung von Bildern realer Personen in leichter Bekleidung verhindern.
Der EU-Kommission reicht das nicht. Ein Sprecher der Behörde stellte klar: „Kindesmissbrauchsmaterial ist kein Privileg für Premium-Nutzer. Solche Inhalte haben in Europa keinen Platz.“
Weltweite Ermittlungen laufen
Die EU ist nicht allein: Auch die britische Medienaufsichtsbehörde Ofcom hat Mitte Januar eine offizielle Untersuchung eingeleitet. Premierminister Keir Starmer nannte die KI-Erzeugnisse „widerlich“. Die Pariser Staatsanwaltschaft ermittelt seit Sommer 2025 gegen X – ursprünglich wegen des Vorwurfs, Algorithmen seien manipuliert worden, um rechtsextremen Inhalten mehr Aufmerksamkeit zu verschaffen. Jetzt kommen Vorwürfe wegen Holocaustleugnung und sexueller Abbildungen hinzu.
Indonesien und Malaysia sperrten Grok im Januar vorübergehend – als erste Länder weltweit. Malaysia hat die Sperre inzwischen nach einem Treffen mit X-Vertretern wieder aufgehoben, will die Situation aber weiter beobachten.
Was droht Musk jetzt?
Die Einleitung des Verfahrens bedeutet noch keinen nachgewiesenen Verstoß. Sollte X aber nicht einlenken oder entlastende Beweise liefern, könnten empfindliche Strafen drohen. Der DSA ermöglicht Geldbußen von bis zu sechs Prozent des weltweiten Jahresumsatzes. Zum Vergleich: Im Dezember verhängte die EU bereits eine Strafe von 120 Millionen Euro gegen X wegen Transparenzmängeln bei Werbung und Verifizierung.
Eine Deaktivierung von Grok in der EU sei allerdings nicht das Ziel, betonte ein Kommissionssprecher. Das wäre ein letztes Mittel. Zunächst will Brüssel ermitteln und X die Chance geben, Maßnahmen zu ergreifen.
Politisches Minenfeld
Das Verfahren kommt zu einem heiklen Zeitpunkt. Nach der Deeskalation im Grönland-Konflikt nimmt die EU mit diesem Schritt das Risiko in Kauf, die US-Regierung von Donald Trump erneut zu verärgern. Die Washington hatte nach der Dezember-Strafe scharf reagiert, von Zensur gesprochen und Einreiseverbote gegen europäische Digitalexperten verhängt.
US-Außenminister Marco Rubio warf der EU vor, gezielt amerikanische Plattformen zu attackieren, und drohte mit Erweiterung der Sanktionsliste. Elon Musk selbst sprach sich dafür aus, die EU abzuschaffen.
Gleichzeitig werfen Kritiker der EU vor, ihre Digitalregeln nicht konsequent genug durchzusetzen. Gegen X laufen bereits mehrere Untersuchungen – etwa wegen der Moderation illegaler Inhalte und des Risikomanagements. Viele dieser Verfahren ziehen sich seit Jahren hin.
Was bedeutet das für uns?
Der Fall zeigt: KI-Tools können enorme Risiken bergen, wenn sie ohne ausreichende Sicherheitsmechanismen auf den Markt gebracht werden. Die technische Möglichkeit, täuschend echte Bilder zu erstellen, ist längst da. Die ethischen und rechtlichen Rahmenbedingungen hinken hinterher.
Für Nutzerinnen und Nutzer bedeutet das: Wachsamkeit ist geboten. Jedes Bild, das ihr online teilt, kann potenziell manipuliert werden. Deepfakes werden immer ausgefeilter – und die Grenze zwischen realen und KI-generierten Inhalten verschwimmt zunehmend.
Die EU versucht mit dem DSA, hier klare Regeln zu setzen. Große Plattformen sollen in die Pflicht genommen werden, Risiken zu bewerten und zu minimieren. Der Fall Grok wird zum Testfall: Setzt Brüssel die Regeln konsequent durch, oder bleibt es bei symbolischen Gesten?
Wie lange das Verfahren dauern wird, ist offen. Eines ist aber klar: Die Diskussion um KI-Sicherheit, Kinderschutz und Plattform-Verantwortung ist damit auf einem neuen Höhepunkt angekommen. Und Elon Musk steht wieder einmal im Mittelpunkt eines Sturms, den er selbst mitverursacht hat.
