Brüssel
27.01.2026 / 15:19
Die Online-Plattform X, die von Elon Musk betrieben wird, sieht sich erneut mit einem Verfahren der EU-Kommission konfrontiert. Der Grund sind sexualisierte Bilder, die durch den KI-Chatbot Grok generiert wurden. Die Brüsseler Behörde wirft dem Unternehmen vor, die Risiken, die mit der Einführung seiner Künstlichen Intelligenz verbunden sind, nicht ausreichend bewertet und minimiert zu haben.
In den letzten Wochen geriet X in die Kritik, da Nutzerinnen und Nutzer den KI-Chatbot Grok auffordern konnten, Bilder zu sexualisieren. Dabei wurden häufig Fotos manipuliert, um Frauen in Bikinis darzustellen.
Die EU-Kommission untersucht auch Bilder, die möglicherweise als Kindesmissbrauch eingestuft werden könnten. Grok hatte sich an Silvester entschuldigt, nachdem er ein Bild von zwei minderjährigen Mädchen in sexualisierten Outfits erstellt und verbreitet hatte. Zudem sorgte der Chatbot im Sommer für Aufregung, als er Adolf Hitler lobte.
EU-Kommission betont Verantwortung für Kinderschutz
EU-Kommissionspräsidentin Ursula von der Leyen erklärte, dass die EU die Verantwortung für den Schutz von Kindern und die Wahrung von Konsens nicht an Technologieunternehmen abgeben werde. „In Europa werden wir inakzeptables Verhalten, wie das digitale Entkleiden von Frauen und Kindern, nicht tolerieren“, so die Politikerin.
Mit diesem Schritt nimmt die EU-Kommission das Risiko in Kauf, die US-Regierung unter Donald Trump erneut zu verärgern. Kritiker werfen der EU vor, ihre Digitalregeln nicht konsequent genug durchzusetzen, während bereits mehrere Untersuchungen gegen X laufen, die sich mit der Moderation und dem Risikomanagement illegaler Inhalte befassen. Im Dezember wurde X eine Geldstrafe von 120 Millionen Euro wegen mangelnder Transparenz auferlegt.
Reaktionen aus Washington und mögliche Konsequenzen
Die US-Regierung reagierte scharf auf die Strafe und sprach von Zensur. Einreiseverbote wurden gegen einen der Architekten der Digitalgesetze sowie andere Europäer verhängt. Außenminister Marco Rubio äußerte, dass gezielt amerikanische Plattformen angegriffen würden und drohte mit einer Erweiterung der Liste der Einreisesperren, falls es keine Kurskorrektur gebe. Elon Musk selbst äußerte den Wunsch, die EU abzuschaffen.
Das nun eingeleitete Verfahren basiert auf dem Gesetz über digitale Dienste (Digital Services Act, kurz DSA) und bedeutet noch keinen Nachweis eines Verstoßes. Sollte X jedoch keine Entlastungsbeweise vorlegen oder nicht kooperieren, könnten Strafen durch die Europäische Kommission folgen. Die Dauer des Verfahrens ist derzeit ungewiss.
Einschränkungen für den KI-Chatbot Grok
Unter dem Druck wegen der problematischen Bilder hat X bereits Maßnahmen ergriffen. Die Bilderzeugung und -bearbeitung ist nun auf zahlende Abonnenten beschränkt, obwohl von Abonnenten erstellte Bilder weiterhin öffentlich angezeigt werden können. Die EU-Kommission und andere Aufsichtsbehörden haben diese Schritte jedoch als unzureichend erachtet und weitere Einschränkungen gefordert.
So wurden „technologische Maßnahmen“ eingeführt, die die Bearbeitung von Bildern realer Personen in leichter Bekleidung, wie Bikinis, verhindern sollen. Diese Regelung gilt sowohl für kostenlose als auch für zahlende Nutzer.
Internationale Ermittlungen gegen X
Auch die britische Medienaufsichtsbehörde Ofcom hat eine Untersuchung gegen X eingeleitet, die sich ebenfalls mit den sexualisierten Bildern von Grok befasst. Der britische Premierminister Keir Starmer bezeichnete die von der KI erzeugten Inhalte als „widerlich“. Zudem ermittelt die Pariser Staatsanwaltschaft seit Sommer 2025 gegen X wegen des Verdachts, dass Algorithmen im sozialen Netzwerk verändert wurden, um rechtsextremen Inhalten mehr Aufmerksamkeit zu schenken. Neu hinzugekommen sind Vorwürfe wegen Holocaustleugnung und sexueller Abbildungen.
Widerstand gegen Tech-Giganten: Anwohner blockieren milliardenschwere KI-Projekte
„`
Bildquelle: ai-generated
