Die französische Justiz hat am Dienstag die Pariser Büros von Elon Musks Social-Media-Plattform X durchsucht. Im Zentrum steht der KI-Chatbot Grok, der illegale Inhalte generiert haben soll. Auch britische Behörden ermitteln parallel.
- Razzia in Paris wegen Grok-Chatbot und illegaler Inhalte
- 23.000 sexualisierte KI-Bilder im Fokus der Ermittlungen
- Musk und Ex-CEO Yaccarino zur Befragung vorgeladen
Die französische Spezialeinheit für Cyberkriminalität durchsuchte am Dienstag in Koordination mit Europol die X-Büros in Paris. Laut Sky News richtet sich die Untersuchung gegen den KI-Chatbot Grok, der illegale Deepfakes erstellt haben soll.
X-Eigentümer Elon Musk wurde zusammen mit mehreren aktuellen und ehemaligen Führungskräften vorgeladen, darunter die frühere CEO Linda Yaccarino. Die Ermittlungen konzentrieren sich auf die Verbreitung illegaler Inhalte über die Plattform.
23.000 illegale Bilder durch Grok generiert?
Die Staatsanwaltschaft wirft X vor, bei der Verbreitung von kinderpornografischem Material Beihilfe geleistet zu haben. Mehr als 23.000 sexualisierte Bilder von Kindern sollen durch Grok erstellt worden sein.
Im August vergangenen Jahres führte xAI den sogenannten „Spicy Mode“ ein. Dieser ermöglicht explizit die Generierung nicht jugendfreier Inhalte. Ein prominenter Fall betraf Deepfakes von Taylor Swift, die damals für Aufsehen sorgten.
Europol erklärte in einer Stellungnahme, die Ermittlungen beträfen mehrere Straftaten im Zusammenhang mit der Funktionsweise der Plattform. Man stehe bereit, die französischen Behörden weiter zu unterstützen.
X weist Vorwürfe zurück
Die Global-Government-Affairs-Abteilung von X bezeichnete die Razzia als „politisierte Strafuntersuchung“. Man werfe den Behörden vor, französisches Recht zu verzerren und rechtsstaatliche Prinzipien zu umgehen.
„Die heutige inszenierte Razzia verstärkt unsere Überzeugung, dass diese Untersuchung die Meinungsfreiheit gefährdet“, hieß es in einem Post auf X. Das Unternehmen werde sich nicht von den Handlungen der französischen Justizbehörden einschüchtern lassen.
Parallel ermitteln auch britische Regulierungsbehörden gegen X. Die Untersuchungen laufen nach Datenschutz- und Online-Sicherheitsgesetzen.
Verbraucherschützer fordern härtere Regulierung
Verbraucherschutzorganisationen fordern schärfere Vorschriften für KI-Entwickler. J.B. Branch von Public Citizen erklärte, Regulierungsbehörden sollten prüfen, ob Unternehmen vorhersehen konnten, wie ihre Tools missbraucht werden.
„Plattformen, die von schneller Markteinführung profitieren, müssen Verantwortung für die entstehenden Schäden übernehmen“, so Branch. Bestehende Gesetze seien nicht für KI gebaut, die „Schaden in skalierbarer Geschwindigkeit massenproduzieren“ könne.
Branch forderte proaktive Verpflichtungen, die KI-Missbrauch verhindern, bevor er geschieht. Unabhängige Tests durch Regulierungsbehörden sollten Probleme aufdecken, bevor KI-Produkte auf den Markt kommen. „Wenn etwas so Ernstes passiert, sollte das Tool sofort entfernt werden.“
