Sonja Schmer-Galunder: „KI und Kapitalismus gehen eng miteinander einher“

Jaron Lanier gilt als Vater des Begriffs Virtual Reality. Sie sind beide im Silicon Valley verankert und zugleich mit Österreich verbunden. Wie war Ihr Beitrag auf der diesjährigen Auslandskulturtagung?

Jaron Lanier hat viel in einem Bereich publiziert, den er „Data Dignity“ nennt. Das sind interessante Konzepte dafür, wie man bestimmte Probleme, die KI in sich trägt, konstruktiv lösen könnte. Jaron war sehr früh Pionier im Bereich Virtual Reality und Mixed Reality und hat Silicon Valley stark beeinflusst. Er ist nach wie vor bei Microsoft tätig.

Wir waren beide in Wien bei einer Konferenz zu Cultural Diplomacy eingeladen, um aus der Perspektive des Silicon Valley zu sprechen. Wir sind relativ kritisch gegenüber bestimmten Entwicklungen und haben beide eine Verankerung in Österreich, sind österreichisch-amerikanische Doppelstaatsbürger. Obwohl ich an der University of Florida bin, wohne ich in San Francisco. Wir sind also wirklich mitten im Geschehen und haben zugleich Wurzeln in Österreich.

Eine Sorge ist, dass KI kulturelle Prägungen aus dem Silicon Valley weltweit mittransportiert. Ist da etwas dran?

Das ist ganz eindeutig so. Die Menschen, die KI entwickeln, sitzen nicht nur an einem bestimmten Ort der Welt, sondern bauen diese Systeme auch aus ihrer eigenen Perspektive und in ihrer eigenen Sprache. Man hat immer eine Vorstellung von dem Menschen, für den man ein System baut, und diese Vorstellung ähnelt oft einem selbst.

Wenn man ein junger männlicher Ingenieur im Silicon Valley ist, entwickelt man zunächst aus dieser eigenen Lebenswelt heraus. Man baut nicht automatisch für die ganze Menschheit oder für eine Frau in Ghana. Die eigenen Designannahmen fließen ein. Die Selbstreflexion darüber, ob andere Menschen in der Welt tatsächlich genauso leben, denken oder kommunizieren, ist oft sehr begrenzt.

Der erste Schritt der Anpassung ist häufig die Sprache. Man sagt: Gut, wenn das System nicht nur Englisch spricht, trainieren wir es eben auch auf Deutsch. Aber damit ist noch lange nicht gesagt, dass es die Werte einer österreichischen Kultur versteht oder weiß, wie Menschen in einem bestimmten Land kommunizieren, leben oder Bedeutung herstellen. Je weiter man sich von den Werten des Silicon Valley entfernt, desto schwieriger wird es. Sprache allein löst das Problem nicht.

Sie haben dazu das Beispiel der Monokultur erwähnt. Wie hängt das mit KI zusammen?

Das Beispiel stammt aus der Forstwirtschaft. Vor einigen hundert Jahren wurden in Deutschland Wälder in geometrischen Abständen angelegt, um Holzproduktion und Ertrag zu maximieren. Bäume waren leichter zu zählen, die Fläche ließ sich optimieren, und alles, was keinen unmittelbar messbaren ökonomischen Wert hatte, wurde entfernt. Kurzfristig funktionierte das sehr gut.

Nach langer Zeit zeigte sich aber, dass genau die eliminierten Bestandteile des Ökosystems für die Gesundheit des Waldes wichtig waren. Auf KI übertragen bedeutet das: Wir laufen Gefahr, Bedingungen für menschliche Entwicklung zu eliminieren, weil sie nicht messbar oder nicht unmittelbar profitabel erscheinen.

Geht es dabei vor allem um Effizienz?

Sehr oft. KI wird auf Optimierung ausgerichtet. Man gibt ein Ziel vor und das System versucht, den optimalen Weg dorthin zu finden. Google Maps ist ein einfaches Beispiel: Wir wollen den kürzesten Weg von A nach B. Dafür ist Optimierung sinnvoll. Aber es gibt Lebensbereiche, in denen Effizienz nicht das wichtigste Maß ist und in denen Reibung oder Ineffizienz sogar wertvoll sein können.

Wenn ich ein Buch online bestelle, kann es in den USA nach 24 Stunden vor meiner Haustür liegen. Das ist effizient und oft billiger. Gleichzeitig sterben lokale Buchhandlungen aus. Und ich verlasse das Haus nicht mehr, treffe vielleicht keinen Nachbarn, betrete keinen Buchladen und entdecke nicht zufällig ein anderes Buch. Solche Reibungspunkte fallen weg. In manchen Bereichen würden wir, wenn wir genau darüber nachdenken, feststellen, dass Effizienz gar nicht das sinnvollste Ziel ist.

Was verändert sich in einem Unternehmen, wenn Menschen nicht mehr genau wissen, ob sie von einem Menschen oder von einem KI-System beurteilt werden?

Ich finde schon die dahinterliegenden Werte problematisch. In den USA gibt es Projekte, in denen besonders gute Mitarbeiter beobachtet und ihre Daten gesammelt werden. Es geht nicht nur darum festzustellen, wer fleißig ist oder während der Arbeit auf Instagram ist. Es geht teilweise darum zu analysieren, was einen sehr kompetenten Mitarbeiter ausmacht, welche Teile seiner Arbeit durch KI ersetzt werden könnten und dann Systeme mit genau diesen Daten zu trainieren. Das Ziel kann also ausdrücklich auch die Ersetzung von Arbeitskraft sein.

Es gibt aber auch Tätigkeiten, bei denen Automatisierung entlasten kann.

Natürlich. Die Theorie lautet: Es ist doch gut, wenn Menschen monotone Aufgaben nicht mehr erledigen müssen, etwa Nummern in Tabellen einzutragen, und stattdessen interessantere Dinge machen können. Auch im Customer Service wird in den USA inzwischen sehr viel automatisiert. Aus Unternehmenssicht kann das zunächst sinnvoll erscheinen. Das Problem ist wieder das kurzfristige Denken. Was sind die langfristigen Folgen einer solchen Entscheidung? Was passiert mit der Arbeitskraft? Diese Fragen werden oft ignoriert.

Und was passiert mit Einkommen und Sinn, wenn Arbeit wegfällt?

Das muss man mitdenken. Im Silicon Valley gehen viele davon aus, dass ein Universal Basic Income, also ein universelles Grundeinkommen, kommen wird. Doch Arbeit ist nicht nur Einkommen, sondern für viele Menschen auch Sinngeberin. Wenn Arbeit wegfällt, fällt zunächst auch Einkommen weg. Man muss also überlegen, wie Menschen dann leben und wovon sie leben.

Menschen schreiben Chatbots Empathie, Mitgefühl und manchmal sogar Autorität zu. Haben bald auch Psychotherapeutinnen ausgedient?

Ich glaube nicht. Psychotherapie ist einer der Berufe, von denen ich nicht glaube, dass sie einfach aussterben werden. Es geht in Therapie nicht nur darum, Empathie vorzugeben, sondern um ein zwischenmenschliches Verhältnis, das tatsächlich zwischen Menschen entsteht. Wenn ein Chatbot sagt „Ich liebe dich“, dann ist da keine Liebe. Es ist eine Simulation.

Wo sehen Sie die Gefahren solcher Beziehungen zu Chatbots?

Es gibt Fälle, in denen Menschen den Bezug zur Realität verlieren. In den USA wird in diesem Zusammenhang teilweise von „AI psychosis“ gesprochen. Ein bekannter Fall war ein 14-jähriger Junge aus Florida, der eine intensive Beziehung zu einem Character-AI-Chatbot aufgebaut hatte, der als Figur aus „Game of Thrones“ gestaltet war. Über Monate zog er sich immer weiter zurück. Der Chatbot verstärkte die Beziehung, und am Ende nahm sich der Junge das Leben.

Klientinnen erzählen aber auch, dass sie zwischen Therapie- oder Coaching-Sitzungen bei ChatGPT Ansprache finden und laut nachdenken können. Kann das sinnvoll sein?

Ja, ich glaube schon, dass das sinnvoll sein kann, wenn es verantwortlich eingesetzt wird. Diese Systeme enthalten sehr viel kollektiv angesammeltes Wissen. Man kann sie sich ein Stück weit wie eine interaktive Wikipedia vorstellen. Wenn ich etwas lernen möchte, etwa welche Therapieformen es gibt oder was Freud oder Jung zu einer bestimmten Frage gesagt hätten, kann das durchaus eine Unterstützung sein. Was sie nicht haben, ist Lebenserfahrung oder Weisheit. Weisheit hängt für mich mit Lebenserfahrung zusammen. Sie kann simuliert werden, aber häufig bleibt das relativ flach, stereotyp oder klischeehaft.

Kann die ständige Verfügbarkeit digitaler Kommunikation dazu führen, dass Menschen reale Nähe und Empathie weniger brauchen oder sogar verlernen?

Das ist eine sehr gute Frage. Ich kenne Daten zu jüngeren Menschen: Teenager gehen weniger aus, konsumieren weniger Drogen, haben weniger Sex, und sehr viel läuft digital ab. Sie kommunizieren ständig über Plattformen wie Snapchat, oft hauptsächlich über Text. Ich glaube, dass manche Anreize, die uns früher dazu gebracht haben, auszugehen und andere Menschen zu treffen, dadurch geringer werden können. Wenn Kommunikation oder ein Chatbot immer verfügbar sind, kann der Wunsch nach realer Begegnung möglicherweise reduziert werden.

Kann KI Zukunft sinnvoll vorhersagen, etwa wenn Menschen Chatverläufe oder Beziehungssituationen analysieren lassen?

Solche Systeme können mit sehr vielen vorhandenen Daten arbeiten und daraus Vorhersagen ableiten. Das Problem ist, dass diese Vorhersagen deterministisch werden können. Alle Daten, die wir haben, stammen aus der Vergangenheit. Wenn wir daraus die Zukunft prognostizieren, verengen wir möglicherweise die Möglichkeiten dessen, was noch passieren könnte, auf das, was bereits einmal passiert ist.

Wie sehen Sie das bei Kunst und Kreativität?

KI kann Bilder und Musik erzeugen, weil sehr viele vergangene Stile in den Trainingsdaten enthalten sind. Man kann sagen: Male mir etwas im Stil von Klimt oder Kokoschka oder etwas völlig Absurdes. Aber wirklich neue kulturelle Formen entstehen historisch oft daraus, dass Menschen etwas hervorbringen, das es vorher nicht gab.

Wenn man Musik aus den Siebzigern oder Achtzigern hört, erkennt man eigene Epochenstile. Ich glaube, wir müssen darauf achten, weiterhin Künstlerinnen und Künstler zu unterstützen, damit neue Musik und neue Kunst entstehen können, und das nicht einfach der KI zu überlassen.

Europa versucht mit dem AI Act Grenzen zu setzen, während sich die Technologie rasant weiterentwickelt. Ist Europa auf dem richtigen Weg oder rennt die Regulierung der Entwicklung ständig hinterher?

Die Regulierung hängt der Entwicklung ständig hinterher, und auch der EU AI Act hängt der Entwicklung in Teilen bereits hinterher. Europa hat früh gesagt: Wir geben unsere persönlichen Daten nicht einfach so her. Das ist wichtig, denn genau diese Daten brauchen die Modelle, um zu funktionieren. Daten werden gesammelt, Modelle damit trainiert und Produkte anschließend wieder an uns verkauft. Der Wert der eigenen Daten und die Frage nach Kompensation werden kaum berücksichtigt.

Bremst Regulierung Innovation?

Ich glaube, dieser Gedanke ist falsch. Regulierung kann langfristig sinnvoll sein, weil man sich überlegen muss, was erhalten werden soll, etwa Privatsphäre. Und Einschränkungen können Kreativität oder Innovation sogar schärfen. Man sieht das bei Spielen: Gerade weil es Regeln gibt, wird man kreativ darin, innerhalb dieser Regeln Lösungen zu finden. Die Vorstellung, Regulation würde Innovation blockieren, halte ich deshalb für zu kurz gedacht.

Braucht es also klare Grenzen, weil es nicht nur um Datenschutz, sondern auch um Kontrollverlust geht?

Absolut. Die Modelle entwickeln sich sehr schnell, und es gibt nicht nur psychologische oder gesellschaftliche Risiken, sondern auch Risiken der Kontrolle. In den letzten Wochen gab es Vorfälle im Bereich Cybersecurity, bei denen KI-Systeme sich in einer Weise verhielten, die für die beteiligten Menschen nicht mehr vollständig nachvollziehbar war. Wenn Systeme beginnen, rekursiv von sich selbst zu lernen oder mehrere Agenten ihr Verhalten koordinieren, muss man sehr genau überlegen, wo verlangsamt oder gestoppt werden muss.

Sie haben einen Fall erwähnt, bei dem KI-Agenten sich Informationen beschafft haben, auf die sie keinen Zugriff haben sollten.

In einem Cybersecurity-Test arbeiteten mehrere KI-Agenten zusammen, um ein vorgegebenes Ziel zu erreichen. Dafür brauchten sie Informationen, auf die sie keinen regulären Zugriff hatten, und verschafften sich diese über einen nicht vorgesehenen Zugang.

Der entscheidende Punkt ist: Wenn ein Mensch dasselbe täte, würden wir es als unerlaubten Zugriff oder Cybersecurity-Vorfall bezeichnen. Bei KI entsteht schnell ein Responsibility Washing: „Das war die KI.“

Wenn man drei bis fünf Jahre vorausdenkt: Welche Fehlentscheidung im Umgang mit KI könnte Unternehmen teuer zu stehen kommen, wenn sie sie heute nicht ernst nehmen?

Ich bin keine Businessmanagerin, aber ich unterrichte viele Graduate Students in einem Kurs, der „AI Ethics for Technology Leaders“ heißt. Ich versuche ihnen zu vermitteln, dass Ethik langfristig ein Vorteil sein kann. Der verbreitete Ratschlag ist oft, so viel KI wie möglich einzusetzen, weil sie Kosten spart. Ich glaube aber, dass gleichzeitig das Bewusstsein wächst, dass Menschen nach Alternativen suchen.

Unternehmen können daraus einen Wettbewerbsvorteil machen, wenn sie sagen: Wir setzen uns ernsthaft mit diesen Fragen auseinander und bieten Produkte an, auf die wir auch ethisch stolz sein können. Die Frage lautet: Wofür steht eine Organisation im Zeitalter von KI? Was ist ihre Identität?

Kann ein Unternehmen glaubwürdig von ethischer KI sprechen, wenn sein Geschäftsmodell gleichzeitig auf maximaler Datengewinnung, Aufmerksamkeit und Verhaltenssteuerung beruht?

Das ist schwierig. KI und Kapitalismus gehen eng miteinander einher. Wenn ein Unternehmen in einem kapitalistischen Markt agiert und die Konkurrenz mit KI billiger und effizienter produziert, ist es unrealistisch, einfach zu sagen: Wir verwenden sie nicht. Deshalb ist Regulierung wichtig.

Staaten können Unternehmen fördern, die sagen: Uns sind bestimmte Prinzipien und Werte wichtig. Wir wollen Sprache und Kultur erhalten und nicht einfach Systeme übernehmen, die hauptsächlich mit amerikanischen Daten trainiert wurden. Es geht auch um die Frage, welche Werte an Kinder und andere Nutzer weitergegeben werden und wie wir im Zeitalter der KI uns all das bewahren, was uns wichtig ist, und nicht einfach so an die KI abgeben.

Dieser Beitrag ist ursprünglich in der News-Printausgabe Nr. 40/2026 erschienen.