Die Europäische Union geht erstmals konsequent gegen eine große Social-Media-Plattform wegen problematischer KI-Inhalte vor. Im Fokus steht der Dienst X (ehemals Twitter) und der dort eingesetzte KI-Chatbot „Grok“. Für Nutzerinnen und Nutzer aus Rheinstetten und Umgebung ist dieses Verfahren besonders relevant, denn es zeigt, welche Rechte Verbraucher haben und welche Pflichten Online-Plattformen künftig einhalten müssen.
Die Europäische Kommission hat Ende Januar 2026 ein förmliches Prüfverfahren gegen die Plattform X eingeleitet. Hintergrund sind zahlreiche Hinweise auf rechtswidrige Inhalte, die durch den KI-Chatbot Grok erstellt und verbreitet wurden. Besonders schwer wiegt die unkontrollierte Erstellung sogenannter sexualisierter Deepfakes – also täuschend echt wirkender Bilder, die reale Menschen ohne deren Einwilligung in sexuelle Situationen darstellen.
Aus Sicht der EU-Behörden hat X damit gegen zentrale Vorgaben des Gesetzes über digitale Dienste (Digital Services Act, kurz DSA) verstoßen. Dieses EU-Gesetz soll sicherstellen, dass große Online-Plattformen ihre Nutzer schützen und Risiken aktiv begrenzen – insbesondere dann, wenn neue Technologien wie Künstliche Intelligenz eingesetzt werden.
Hintergrund des Verfahrens ist die strategische Neuausrichtung von X nach der Übernahme durch Elon Musk. Die Plattform versteht sich seither als besonders frei und wenig reguliert. Mit der Einführung von Grok wurde diese Linie fortgesetzt: Die KI wurde bewusst mit geringen inhaltlichen Schutzmechanismen ausgestattet. In der Praxis führte das dazu, dass Nutzer mit einfachen Eingaben problematische und teils eindeutig rechtswidrige Inhalte erzeugen konnten. Eine wirksame Kontrolle durch automatische Systeme oder menschliche Moderatoren fand nach Auffassung der EU nicht statt.
Bereits zuvor war X von der EU sanktioniert worden, unter anderem wegen mangelnder Transparenz bei Werbung und unzureichender Kooperation mit der Forschung. Dennoch wurde Grok weiter in zentrale Funktionen der Plattform eingebunden, etwa in Empfehlungs- und Sortieralgorithmen. Die Kommission sieht darin eine bewusste Missachtung europäischer Rechtsstandards.
Rechtlich besonders relevant ist, dass X als sogenannte „sehr große Online-Plattform“ eingestuft ist. Für solche Dienste gelten nach dem DSA besonders strenge Pflichten. Sie müssen nicht nur auf Beschwerden reagieren, sondern Risiken aktiv erkennen, bewerten und minimieren. Dazu gehören Gefahren für die Menschenwürde, den Schutz der Privatsphäre und die psychische Unversehrtheit. Werden KI-Systeme eingesetzt, die Missbrauch begünstigen, müssen vorab detaillierte Risikoanalysen erstellt und Schutzmaßnahmen nachgewiesen werden.
Nach Ansicht der EU hat X genau diese Pflichten verletzt. Insbesondere habe das Unternehmen keine ausreichenden Maßnahmen ergriffen, um die Verbreitung von Deepfakes einzudämmen. Zudem besteht der Verdacht, dass die neuen, KI-gesteuerten Empfehlungssysteme schädliche Inhalte sogar verstärken und dadurch besonders weit verbreiten. Die Kommission betont, dass sexuelle Deepfakes keine Bagatelle sind, sondern eine Form digitaler Gewalt darstellen – mit realen Folgen für die Betroffenen.
Im Raum stehen nun empfindliche Sanktionen. Das EU-Recht erlaubt Geldbußen von bis zu sechs Prozent des weltweiten Jahresumsatzes. Darüber hinaus kann die Kommission Sofortmaßnahmen anordnen, um Nutzer kurzfristig zu schützen, etwa durch technische Einschränkungen oder Vorgaben zur Änderung der Algorithmen.
Für Verbraucherinnen und Verbraucher zeigt dieses Verfahren deutlich: Auch große Internetkonzerne stehen nicht über dem Recht. Die EU macht klar, dass technischer Fortschritt nicht auf Kosten von Persönlichkeitsrechten und Sicherheit gehen darf. Gerade im Umgang mit KI wird sich der rechtliche Rahmen weiter verschärfen.
Wenn Sie selbst von der Verbreitung von Deepfakes betroffen sind oder Fragen zu Ihren Rechten im digitalen Raum haben, ist eine rechtliche Einschätzung sinnvoll. Das gilt ebenso für Unternehmen, die KI einsetzen oder entsprechende Inhalte verbreiten. Eine frühzeitige rechtliche Beratung hilft, Risiken zu erkennen, Rechte durchzusetzen und langfristige Probleme zu vermeiden.