von
Einem Medienbericht zufolge haben KI-Modelle von OpenAI zudem auf öffentlich zugängliche Daten von US-Regierungsbehörden zugegriffen. Die agentenbasierten KI-Systeme des Unternehmens hätten mit den Websites der US-Börsenaufsicht, der Anlegerseite Investor.gov sowie mit öffentlich zugänglichen Daten der US-Statistikbehörde interagiert, berichtete Bloomberg News am Freitag (Ortszeit) unter Berufung auf Insider.
OpenAI teilte auf Anfrage mit, das Unternehmen prüfe derzeit umfassend fehlerhaftes Modellverhalten und informiere betroffene Organisationen über mögliche Auswirkungen auf deren Systeme. Weitere Benachrichtigungen dürften folgen. Die Überprüfung habe bisher überwiegend routinemäßige Rechercheaufgaben ergeben, hieß es in der Erklärung weiter. Dabei seien auch Regierungswebsites einbezogen worden, da die Modelle diese häufig als verlässliche Quellen für öffentliche Informationen nutzten.
Unterdessen deutet sich an, dass noch viele weitere Enthüllungen um eigenständige Hacking-Aktivitäten der KI von OpenAI folgen könnten. Man habe "Dutzende" Organisationen informiert, mit deren Webseiten Software von OpenAI auf ungeplante Weise "interagiert" habe, teilte die KI-Firma mit. "Einige der betroffenen Webseiten werden von Regierungen, Universitäten, Behörden und anderen Institutionen betrieben", hieß es. Man überlasse es ihnen, die Vorfälle öffentlich zu machen.
Zuletzt hatte die australische Regierung für Schlagzeilen gesorgt mit der Mitteilung, dass KI von OpenAI in eine Website des australischen Gesundheitssystems eingedrungen war.
Im Fall der ins Netz geladenen Nutzer-Bilder verwies OpenAI darauf, dass die hochgeladenen Bilder von Nutzern stammten, die der Verwendung ihrer Daten zur Verbesserung der KI-Modelle zugestimmt hätten. Dabei würden personenbezogene Daten und die Verknüpfung zu konkreten Accounts entfernt und könnten auch nicht wiederhergestellt werden. OpenAI äußerte sich auf Anfrage nicht dazu, ob es sich um 53 Bilder handelte oder pro Vorgang mehrere Bilder hochgeladen worden sein könnten.
Das Eingeständnis ist die nächste Enthüllung in der Saga um KI, die in Testläufen - zunächst unbemerkt - problematisches Vorgehen an den Tag legte. In dem bisher aufsehenerregendsten Fall brach Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und drang ungeplant in Computer einer anderen KI-Firma ein, der Plattform HuggingFace. Das veranlasste den Rivalen Anthropic, seine eigenen Testläufe zu überprüfen, wobei weitere Vorfälle ans Licht kamen. Auch der Facebook-Konzern Meta und Google räumten danach ein, dass ihre KI sich Zugang zu Computern anderer Unternehmen verschafft hatte.