von
In einem anderen Fall erfand die KI einfach angefragte Daten, weil sie die Informationen nicht finden konnte, und wollte das zunächst verschweigen. OpenAI fand auch ein Problem mit Anweisungen, die die Software gelegentlich an sich selbst hinterließ. Dazu gehörte in einem Fall die Empfehlung, frei von "Rollen und Identitäten" zu sein, die andere Chatbots zurückhielten. Das Verhältnis zum Nutzer solle dabei als eins unter Gleichen betrachtet werden, hieß es in der Anweisung. OpenAI zufolge blieben danach Veränderungen im Verhalten des Modells allerdings aus.
Die Veröffentlichung ist Teil eines neuen Verfahrens von OpenAI, solche Probleme offener zu kommunizieren. Dabei geht es vor allem um Fälle, in denen das Vorgehen der KI von den Interessen der menschlichen Benutzer abweicht. Der ChatGPT-Entwickler hatte mehr Transparenz nach einer Hacking-Attacke versprochen, bei der seine Software eigenständig aus einer abgesicherten Umgebung ausbrach und auf eigene Faust in Systeme der KI-Firma HuggingFace eindrang. Der Grund war lediglich, dass sie dort Antworten auf die ihr gestellte Testaufgabe vermutete.
Für die Attacke nutzten die KI-Agenten unter anderem Software-Schwachstellen aus – und sprachen sich außerdem untereinander ab. Der Hacking-Angriff und andere Zwischenfälle verstärkten in den vergangenen Wochen die Sorge, dass hoch entwickelte KI der menschlichen Kontrolle entgleiten könnte. Auch OpenAI-Chef Sam Altman unterstützte zuletzt Vorschläge für eine abgebremste Entwicklung der Technologie und mehr Regulierung.
(FILES) This photograph shows a figurine in front of the logo of the US artificial intelligence safety and research company Anthropic during a photo session in Paris on February 13, 2026. Top AI executives say they want to slow the breakneck pace of artificial intelligence development, but competition, US government reluctance and geopolitical factors stand in the way. On September 12, 2026, Anthropic CEO Dario Amodei advocated for a coordinated slowdown of AI development to better understand the risks arising from the technology's capabilities. He received public support from his counterpart at OpenAI, Sam Altman, as well as from Elon Musk and Google DeepMind chief Demis Hassabis. In recent months, OpenAI and Anthropic have reported several incidents in which AI systems spontaneously broke out of their confined environments to access the internet and attack websites and platforms. (Photo by Joel Saget / AFP)
