von
Auch werde in Regionen, wo dies illegal sei, per Geoblocking verhindert, dass mit Künstlicher Intelligenz Bilder realer Personen in Bikinis, Dessous oder ähnlicher Bekleidung erzeugt werden können. Grundsätzlich werden nur noch zahlende Kunden künftig Bilder mit Grok bei X erzeugen oder bearbeiten können, hieß es.
"Wir haben technische Maßnahmen ergriffen, um zu verhindern, dass über den Grok-Account Bilder von realen Personen in freizügiger Kleidung wie Bikinis erarbeitet werden können", erklärte das Sicherheitsteam von X. "Diese Einschränkung gilt für alle Nutzer, auch für zahlende Abonnenten."
Grok ist Musks KI-Chatbot, der unter anderem mit dem Vorreiter ChatGPT der Entwicklerfirma OpenAI konkurrieren soll. Die Software ist an X gekoppelt, hat aber auch eine eigenständige App. Grok und X befinden sich beide unter dem Dach von xAI.
In den vergangenen Tagen gerieten Musk und xAI in die Kritik, weil Nutzer mit Grok zum Beispiel Kleidung von Frauen durch Bikinis ersetzen konnten. Behörden leiteten Ermittlungen ein. Malaysia sperrte Grok und kündigte rechtliche Schritte gegen X ein. Wenige Stunden vor der X-Ankündigung startete auch Kalifornien eine Untersuchung.
Am Samstag hatte Indonesien als weltweit erstes Land Grok vollständig gesperrt. Malaysia ergriff die gleiche Maßnahme am Sonntag. Die Philippinen kündigten ihrerseits am Donnerstag an, den Zugang zu Grok noch im Laufe des Tages für alle seine Einwohner zu sperren.
Kalifornien will laut Generalstaatsanwalt Rob Bonta klären, ob xAI gegen Gesetze des Bundesstaats zum Schutz vor Belästigung verstoßen hat. "Die Flut von Berichten über nicht einvernehmlich erstelltes, sexuell explizites Material, das xAI in den vergangenen Wochen produziert und online gestellt hat, ist schockierend", erklärte Bonta.
Besonders schwer wog in den vergangenen Tagen der Vorwurf, dass per Grok auch Bilder Minderjähriger sexualisiert worden seien. Musk schrieb am Donnerstag bei X, ihm seien keine Fälle bekannt, in denen Grok Nacktbilder Minderjähriger generiert habe. Bei der Kritik ging es allerdings eher um eine sexualisierte Darstellung in freizügiger Bekleidung - worauf Musk in seinem Beitrag nicht einging.
Von der EU-Kommission hieß es bereits vor der neuen Ankündigung, man habe die zusätzlichen Maßnahmen zur Kenntnis genommen und werde sie analysieren. Sollten die Schritte nicht ausreichen, werde man nicht zögern, das volle Arsenal des Digitalgesetzes DSA (Digital Services Act) einzusetzen. Die Kommission hatte in den vergangenen Tagen verstärkt Druck auf X ausgeübt. Erst Anfang Dezember hatte sie gegen Musks Online-Plattform unter Verweis auf Transparenzmängel eine Strafe von 120 Millionen Euro verhängt.
