Technologie von

Wissenschafter warnen vor
Missbrauch künstlicher Intelligenz

Studie entwirft Szenarien zu autonomen Robotern und Computerprogrammen

Technologie - Wissenschafter warnen vor
Missbrauch künstlicher Intelligenz © Bild: Shutterstock

Künstliche Intelligenz zieht auch neue Bedrohungsszenarien nach sich. Davor warnen Experten jetzt in einer großangelegten Studie.

Die Technologie könne "neue Bedrohungen aufwerfen oder bestehende Bedrohungen verändern", sagte Mitautor Sean O hEigeartaigh von der Uni Cambridge. Die 100 Seiten umfassende Analyse entwirft verschiedene Bedrohungsszenarien, wie ein Attentat mithilfe eines Staubsaugerroboters.

Angriff der Staubsauger

In diesem Szenario wird ein solcher Roboter in das deutsche Finanzministerium geschleust und führt dort zunächst die üblichen Reinigungsprozesse durch. Sobald seine Gesichtserkennungs-Software das Gesicht des Ministers erkennt, explodiert eine versteckte Sprengstoffvorrichtung. Die Studie zeige, "wie die Welt in den nächsten fünf bis zehn Jahren aussehen könnte", erklärte O hEigeartaigh.

Eine weitere mögliche Anwendung Künstlicher Intelligenz sei die Automatisierung personalisierter "Phishing"-Angriffe im Internet. So wird der Versuch Krimineller bezeichnet, über Mail-Kommunikation an wertvolle persönliche Daten der Adressaten - wie etwa Bankverbindungen - zu gelangen. In Zukunft könnte es deutlich schwieriger werden, "Phishing"-Mails als solche zu erkennen, sagte O hEigeartaigh.

Manipulation und Überwachung

In der Politik können nach Angaben der Studie bereits jetzt skrupellose oder autokratische Staats- und Regierungschefs die durch Überwachungsnetzwerke gesammelten Datenmengen nutzen, um ihr eigenes Volk auszuspionieren. Zusätzlich könne mithilfe billig, aber äußerst glaubwürdig gefälschter Videos die öffentliche Meinung in "einem zuvor unvorstellbaren Ausmaß" manipuliert werden.

Er persönlich sei "besonders besorgt über die Verwendung autonomer Drohnen für Terror und automatisierte Cyberattacken durch kriminelle und staatliche Gruppen", sagte ein weiterer Autor der Studie, Miles Brundage von der Universität Oxford. Drohnen und Roboter könnten als Raketenträger genutzt werden, um autonome Fahrzeuge zu zerstören oder um wichtige Infrastruktur zu Lösegeldzwecken zu bedrohen.

Die mehr als zwei Dutzend Autoren forderten von politischen Entscheidungsträgern und Unternehmen, Roboter-Software absolut sicher ("unhackable") zu machen und weitere Gesetze zur Steuerung der Erforschung Künstlicher Intelligenz zu erwägen. Ob Künstliche Intelligenz langfristig als hilfreich oder schädlich erachtet werde, sei "ein Produkt dessen, was die Menschen entscheiden zu tun", sagte Brundage.

Kommentare