von
Amodei hatte sich besorgt gezeigt, dass in sechs bis zwölf Monaten ein KI-Schwarm in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar Schaden zu verursachen. Altman von OpenAI schrieb kurz darauf auf der Plattform X, auch er sei der Ansicht, dass das Tempo bei der Entwicklung leistungsstärkster KI-Modelle verlangsamt werden müsse.
Amodei plädierte für eine koordinierte branchenweite Pause in der westlichen Welt, um damit ein bis zwei Jahre Zeit zu gewinnen. Zugleich werde Anthropic in einem ersten Schritt dauerhaft unabhängige Beobachter ins Unternehmen lassen, die schon in der Trainingsphase die Sicherheit von KI-Modellen begutachten sollen. Altman nannte das eine gute Idee und kündigte an, dass OpenAI hier gleichziehen werde. Tech-Milliardär Elon Musk schrieb auf X: "Dario hat Recht."
Für den an der Universität Linz tätigen KI-Pionier Sepp Hochreiter, einer der Mitentwickler der Grundlagen für solche Systeme, liegt hinter Warnungen vor einer Art "Superintelligenz" auch ein "grundlegendes Missverständnis der Technologie". In einer der APA zu der aktuellen Thematik übermittelten Einordnung betont der Wissenschafter, dass "der heutigen KI echtes Schlussfolgern, intrinsische Motivation und ein physikalisches Verständnis der Welt fehlen". Sie könne ergo auch "nicht plötzlich einen autonomen Wunsch entwickeln, 'die Weltherrschaft zu übernehmen'. Diese Angst ist eine Projektion der menschlichen Natur auf die KI". Die rasche Weiterentwicklung von Großen Sprachmodellen sei "kein Weg zu echter Intelligenz auf menschlichem Niveau".
Besser als Regulierung sei für Hochreiter die Intensivierung von Forschung und Entwicklung. Ein Einbremsen letzterer hält er für "kontraproduktiv": "Wir haben Autos nicht sicher gemacht, indem wir ihre Entwicklung gestoppt haben. Wir haben sie sicher gemacht, indem wir sie gebaut, getestet und weiterentwickelt haben." Und: Man könne eine Technologie, die noch nicht existiert, nicht im Voraus sicher machen. Die notwendigen Sicherheitsmechanismen bringe eben gerade die Forschung selbst hervor. Regulierungen sollten sich daher auf Anwendungen beziehen, "die beim Endnutzer ankommen, nicht jedoch die Grundlagenforschung". Hochreiter sorgt sich in dem Zusammenhang auch um "die Freiheit zu rechnen". So könnte eine erzwungene Verlangsamung autoritäre Eingriffe in die Gesellschaft mit sich bringen.
Der aktuelle Vorschlag sei ernster zu nehmen als frühere sehr vage "Pause"-Appelle, erklärte Rechtswissenschafter Matthias Kettemann von der Universität Innsbruck gegenüber dem deutschen Science Media Center. Gleichzeitig müsse man das Thema kritisch betrachten, da man es mit einem Unternehmen zu tun habe, dessen Geschäftsmodell von einer Verlangsamung kaum bedroht werde und das zugleich Exportkontrollen gegen chinesische Konkurrenz fordere. Auch sei die Prognose von Amodei zur potenziellen Übernahme des Internets in sechs bis zwölf Monaten durch einen KI-Schwarm "unbelegt und unbelegbar", so Kettemann.
Die von Amodei vorgeschlagenen drei aufeinander aufbauenden Stufen, die für mehr Sicherheit sorgen sollen, seien rechtlich sehr unterschiedlich zu bewerten. Dass externe Teams oder Organisationen dauerhaften Zugang zu Modellen, Trainingsprozessen und Personal erhalten sollen und Befunde ohne redaktionelle Kontrolle des Unternehmens veröffentlichen dürfen, sei der am schnellsten umsetzbare Teil. Allerdings bleibe diese freiwillige Transparenz ohne gesetzlichen Auftrag und Sanktionsmöglichkeit "wertvoll, aber keine echte Rechenschaftspflicht".
Der zweite Schritt, die Etablierung gemeinsamer Regeln für KI-Entwicklung und -Nutzung in demokratisch geführten Staaten, sei "mit Vorsicht zu genießen", befand der Professor für Innovation, Theorie und Philosophie des Rechts. So könnten Absprachen über die Entwicklungsgeschwindigkeit kartellrechtlich relevant sein. Inhaltlich fehle bisher eine konkrete und umsetzbare Definition dessen, was eine Temporeduktion bedeute, etwa Fähigkeitsschwellen, die verpflichtend zertifiziert werden müssten, oder eine begrenzte Rechenleistung. "Die EU hat mit dem AI Act bereits einen Ansatz, der genau diese Verknüpfung von Fähigkeit und Pflichten leistet", wird Kettemann zitiert.
Punkt 3, ein weltweit koordiniertes Tempo bei der KI-Entwicklung, werde man "in Peking nicht gerne lesen", weil in Punkt 2 Chinas Fortschritte verlangsamt werden sollen, so der Experte. Konkret schlägt Amodei beispielsweise Exportkontrollen von KI-Chips vor, damit autokratische Staaten durch unregulierte Weiterentwicklung ihrer Modelle kein KI-Monopol erreichen. Im Hinblick auf rechtliche Möglichkeiten, die Kontrolle von KI-Modellen durchzusetzen, verwies Kettemann auf bestehende Regulierungsstrukturen und ein bereits existierendes, "sich verdichtendes völkerrechtliches Korsett für KI".
Für Hochreiter geht es bei der sicheren Weiterentwicklung von KI-Systemen vor allem um einen möglichst offenen Ansatz (Open Source). So wäre es ein "großer Fehler", KI-Forschung unter Verschluss zu halten. Gerade umfassende Compliance-Vorgaben und Zugangsbeschränkungen könnten die Entwicklung weiter befördern, dass "eine Handvoll geschlossener US-amerikanischer und chinesischer Technologiekonzerne die Branche dominieren". Würden westliche Forschungslabore ihre Arbeit bremsen, würde das von anderen Akteuren umgangen. Möglichst offene Systeme, an denen Tausende Menschen mitentwickeln, Fehler finden und Sicherheitslücken identifizieren, seien "historisch gesehen" oft sicherer und nützlicher als verborgene Technologien, meint Hochreiter.
Seit Wochen gibt es große Sorgen um Risiken Künstlicher Intelligenz, die vor allem von Hacking-Attacken durch KI-Software ausgelöst wurden, die sich in Testläufen quasi selbstständig gemacht hatte. Die Debatte wurde in den vergangenen Tagen noch von einem Anthropic-Forscher angeheizt, der mit einer drastischen Warnung zurücktrat. Die großen KI-Entwickler handelten unverantwortlich "und spielen mit unseren Leben", betonte der junge Mann namens Jacob Coxon.
Anthropic-Forscher Evan Hubinger, der mit dafür zuständig ist, dass KI mit den Interessen der Menschen im Einklang bleibt, bestätigte wenig später Coxons Sorgen. Er persönlich denke, die Gefahr, dass KI die Menschheit töte, liege im kommenden Jahrzehnt bei mehr als zehn Prozent, schrieb er auf der Online-Plattform X.
(FILES) A photo taken on January 2, 2025 shows the letters AI for Artificial Intelligence on a laptop screen (R) next to the logo of the Chat AI application on a smartphone screen in Frankfurt am Main, western Germany. Top AI executives say they want to slow the breakneck pace of artificial intelligence development, but competition, US government reluctance and geopolitical factors stand in the way. On September 12, 2026, Anthropic CEO Dario Amodei advocated for a coordinated slowdown of AI development to better understand the risks arising from the technology's capabilities. He received public support from his counterpart at OpenAI, Sam Altman, as well as from Elon Musk and Google DeepMind chief Demis Hassabis. In recent months, OpenAI and Anthropic have reported several incidents in which AI systems spontaneously broke out of their confined environments to access the internet and attack websites and platforms. (Photo by Kirill KUDRYAVTSEV / AFP)
