von
Der KI-Chatbot hatte mit der Generierung anzüglicher Fotos Empörung bei X-Nutzern und massive Kritik ausgelöst. Nutzer können Grok bisher dazu auffordern, freizügige Bilder von Menschen zu generieren. Dabei wurden auch Grenzen überschritten: Zu Silvester entschuldigte sich der Chatbot dafür, ein Bild von zwei Mädchen im Teenager-Alter "in sexualisierten Outfits" erstellt und geteilt zu haben. "Es handelte sich um ein Versagen unserer Sicherheitsvorkehrungen, und ich entschuldige mich für alle dadurch entstandenen Schäden", schrieb Grok auf X.
In einem weiteren Post hieß es zur Erläuterung, dass es "vereinzelte" Fälle gegeben habe, "in denen Nutzer KI-generierte Bilder von Minderjährigen in knapper Bekleidung angefordert und erhalten" hätten.
Medienberichten zufolge sollen auch Frauen von sogenannten Deepfakes betroffen sein. Laut "Politico" ermittelt die Pariser Staatsanwaltschaft inzwischen zur Verbreitung der sexualisierten Deepfakes. Demnach hatten zwei französische Abgeordnete an die Staatsanwaltschaft gewandt, nachdem Tausende Deepfakes von Grok erstellt worden waren.
(FILES) This photograph shows screens displaying the logo of Grok, a generative artificial intelligence chatbot developed by US artificial intelligence company xAI, in Toulouse, southern France, on January 15, 2025. The Paris prosecutor's office said on January 2, 2026, it has expanded its investigation into the operation of Elon Musk's platform X to include "negationist remarks" published by its artificial intelligence tool Grok. (Photo by Lionel BONAVENTURE / AFP)
