von
Über einen "Kill Switch" für Künstliche Intelligenz wird schon seit einiger Zeit diskutiert - noch ist aber unklar, ob eine solche Vorrichtung zur Notabschaltung überhaupt realistisch ist. Kalifornien gilt als wichtigster Standort bei der Entwicklung Künstlicher Intelligenz. Vor allem in San Francisco und dem Silicon Valley sitzende führende KI-Unternehmen wie der ChatGPT-Entwickler OpenAI, dessen schärfster Rivale Anthropic und Google. Damit könnte der Bundesstaat auch bei der Regulierung eine zentrale Rolle spielen.
Newsoms zweite und letzte Amtszeit als kalifornischer Gouverneur endet Anfang kommenden Jahres. Der 58-Jährige gilt als ein möglicher Bewerber der Demokraten für die Präsidentenwahl 2028.
Die Debatte um Gefahren Künstlicher Intelligenz heizte sich in den vergangenen Wochen auf, insbesondere nachdem eigenständige Hacking-Attacken durch Software mit Künstlicher Intelligenz bekanntgeworden waren. Mitarbeiter von KI-Laboren warnten vor dem Risiko, dass die Menschheit die Kontrolle über Künstliche Intelligenz verlieren oder sogar von ihr ausgelöscht werden könnte. Neben anderen sprach sich auch Anthropic-Chef Dario Amodei dafür aus, das Entwicklungstempo bei hoch entwickelter KI zu bremsen und die Aufsicht zu verstärken.
Inzwischen fordern Dutzende renommierte Experten aus der Branche führende KI-Labore auf, unabhängige Aufsicht in ihren Unternehmen zuzulassen. Die Aufseher müssten wie führende Manager Zugang zu Systemen haben und mit zuständigen Mitarbeitern kommunizieren können, heißt es in einem offenen Brief. Zu den Unterzeichnern gehört der Physik-Nobelpreisträger und ehemalige Google-Forscher Geoffrey Hinton, der als einer der wichtigsten Köpfe hinter modernen KI-Systemen gilt.
