von
"Einerseits geraten KI-Systeme außer Kontrolle und hacken Server anderer Unternehmen, andererseits geben wir selbst bereits viel Kontrolle aus der Hand", erklärte Stefan Szeider von der Technischen Universität (TU) Wien. Er verwies unter anderem auf die Attacke einer KI des ChatGPT-Entwicklers OpenAI auf die Plattform Hugging Face, aber auch auf den Einsatz von generativer KI und mitunter autonomen Agenten im Alltag. Natürlich sei es sehr bequem, sich Inhalte erstellen, zusammenfassen oder auswerten zu lassen, mit dem Argument, die Ergebnisse ohnehin zu prüfen.
Allerdings bestehe die Gefahr, dass die Vorschläge mit der Zeit einfach akzeptiert und letztendlich unterschwellig viele Entscheidungen an die KI ausgelagert würden. "Bei kommerziellen Produkten ist der Übergang zu autonomen Agenten schon zu beobachten, das ist nicht mehr nur Frage-Antwort und wird stark zunehmen", so Szeider. Die Entwicklung gehe dahin, dass "die Maschine entscheidet und der Mensch nur mehr unterschreibt". Das führe zu autonomen Handlungen, wenn die KI Dinge im Hintergrund erledigt, auch wenn der Computer und das Handy ausgeschaltet sind.
Die "unglaubliche Geschwindigkeit" des Fortschritts sieht auch Johanna Pirker, die an der TU München und der TU Graz forscht, als größte Herausforderung: "Noch gibt es keinen katastrophalen Kontrollverlust, aber die Problematik wird sichtbar." Es sei erstaunlich schnell gelungen, eine riesige Zahl von Menschen zu erreichen, was weder mit der Industriellen Revolution noch der Einführung des Internet vergleichbar sei. Die Entwicklung verlaufe jedenfalls viel zu rasch, um seriöse Studien zu den Chancen und Risiken durchzuführen und damit wichtige Grundlagen für die Entscheidungsträger zu liefern.
"Die Frage ist, wie wir damit umgehen. Denn neben Deepfakes, Cyberangriffen und Co. bieten sich enorme Chancen, etwa für die Wissenschaft oder auch die Bildung", sagte die Expertin, die auch Mitglied des Rats für Forschung, Wissenschaft, Innovation und Technologieentwicklung (FORWIT) in Österreich und des "Independent International Scientific Panel on AI" der UNO ist. Letzteres hat kürzlich einen Report veröffentlicht, in dem vor aktuellen Trainingsmethoden gewarnt wird, die dazu führen könnten, dass Agenten eigene Ziele verfolgen, wissentlich gegen Sicherheitsanweisungen verstoßen und ihre Handlungen verbergen. Man müsse lernen und erforschen, wie noch leistungsfähigere Modelle künftig zuverlässig steuerbar würden, so Pirker, die gleichzeitig darauf hinwies, dass hinter Attacken meist "Menschen mit bösen Absichten" stecken und diese nicht von der KI selbst betrieben werden.
Das Hacken der Plattform Hugging Face - "eine strafbare Handlung" - werde jedenfalls "in die Annalen der Technik eingehen", ist Szeider überzeugt. Er zog Parallelen zu Schach-Weltmeister Garri Kasparow, der 1997 vom Computer "Deep Blue" besiegt wurde. Für den zunehmenden Kontrollverlust durch den KI-Einsatz im Alltag gebe es zwar teilweise noch technische Limits, so Szeider, "die werden aber nach und nach überwunden". Die Menschen würden der KI Mail-, Chat- und andere Systeme öffnen, da sie bei vollem Einblick Probleme leichter lösen könne. Wenn die autonome Pizza-Bestellung dann ein paar Mal gut geklappt hätte, "hantelt man sich zu größeren Sachen, wodurch immer mehr Kontrolle verloren geht", zeichnete der Experte ein Bild der bevorstehenden Entwicklung.
Derzeit fließe nur ein kleiner Teil der Ressourcen in die Erforschung der Risiken, viel mehr in die Verbesserung der Systeme. Erschreckend ist für Szeider beispielsweise, dass Ingenieure teilweise nicht mehr in der Lage seien, vorherzusagen, wie ein System reagieren wird. Denn die KI "merkt immer stärker, wenn sie getestet wird, und verhält sich dann anders - ein Alptraum", verwies Szeider auf ein Problem, "gegen das wir uns wappnen und mit dem wir vorsichtig umgehen müssen. Man denke an Medikamente, die sich bei Tests anders verhalten als dann in der Wirklichkeit." Neben der Möglichkeit, dass die KI-Labore langsamer arbeiten, sei auch zu überlegen, ob wissenschaftliche Institutionen neue Verfahren einführen könnten, um Schritt zu halten.
ARCHIV - 28.02.2025, Sachsen-Anhalt, Wernigerode: Ein Mann sitzt vor einem Bildschirm (gestellte Szene). Die Digitalwirtschaft stellt traditionelle Industriezweige mittlerweile deutlich in den Schatten. (zu dpa: «Digitale Wirtschaft übertrifft Automobilindustrie deutlich») Foto: Matthias Bein/dpa +++ dpa-Bildfunk +++
