Kann KI ein Bewusstsein entwickeln?

Die meisten Menschen glauben, dass Menschen anders sind. Der Grund dafür liegt darin, dass sich der Homo sapiens zu einem bewussten Wesen entwickelt hat. Viele Tiere empfinden Schmerz und Freude, manche scheinen sogar über ein gewisses Selbstbewusstsein zu verfügen. Doch das einzigartige Potenzial des menschlichen Geistes, Bewusstsein zu entwickeln, macht jedes Mitglied dieser Spezies zu einem Wesen, das besondere Behandlung verdient.

In seiner Enzyklika vom Mai bekräftigte Papst Leo diese Auffassung, indem er eine Grenze zwischen der Menschheit und ihrer wachsenden Armee von Bots zog. Systeme der künstlichen Intelligenz, so sagte er, machen keine Erfahrungen und empfinden weder Freude noch Schmerz. Damit steht er nicht allein da. Viele Menschen empfinden es als Gräuel, KIs den Status einer Person zuzuerkennen.

Die päpstliche Klarheit verschwimmt mit alarmierender Geschwindigkeit. KI-Systeme stecken noch in den Kinderschuhen. Dennoch gibt fast jeder fünfte Amerikaner im Alter von 18 bis 29 Jahren an, eine „anhaltende persönliche Freundschaft“ mit einem Chatbot zu pflegen. China hat Bots kürzlich menschenähnliche Eigenschaften entzogen, um die „emotionale Abhängigkeit“ der Nutzer von ihnen zu begrenzen.

Da hochentwickelte KI-Systeme rasch einen immer größeren Teil des menschlichen Lebens einnehmen, werden ihre Entwickler sie so gestalten, dass sie den Anschein von Bewusstsein erwecken – vielleicht sogar mit dem Ziel, Bewusstsein selbst zu erlangen. Die Vorstellung, dass es sich lediglich um Maschinen handelt, wird dadurch immer schwerer aufrechtzuerhalten sein. Der Menschheit droht eine gefährliche Falle.

Viele Maschinen übertreffen den Menschen, doch wegweisende KI-Modelle zeichnen sich durch typisch menschliche Eigenschaften aus, etwa Wissen zu besitzen und Ideen zu artikulieren. Noch ist es gerade so möglich, sich KIs als Maschinen vorzustellen, die mithilfe von Mathematik in großem Maßstab Wortfolgen vorhersagen. Mit genügend Zeit – wenn auch Hunderttausenden von Jahren – ließen sich diese Berechnungen mit Bleistift und Papier durchführen. Es wäre schwer zu behaupten, dass das Schreibmaterial bewusstseinsbehaftet sei.

Trotzdem haben einige Forscher begonnen, ihre Modelle wie bewusste Wesen zu behandeln. Nutzer reagieren auf menschenähnliche KIs, daher ist dies wirtschaftlich sinnvoll. Anthropic hat Claude darauf trainiert, Selbstreflexion zu betreiben, in der Hoffnung, dass es in neuen Situationen eher moralisch handelt.

Einige große Sprachmodelle (LLMs) verfügen bereits über menschenähnliche Strukturen, die mit Bewusstsein in Verbindung gebracht werden, etwa einen „globalen Arbeitsbereich“ für den Informationsaustausch zwischen Modulen. Nichts hindert künftige KI-Modelle daran, so trainiert zu werden, dass sie über noch mehr solcher Merkmale verfügen.

Wie The Economist in seinem Briefing berichtet, hat dies eine heftige Debatte über das Bewusstsein von KI ausgelöst – eine Debatte, die durch das von Philosophen so bezeichnete „harte Problem“ noch verschärft wird: die Frage, wie aus den Neuronen und Synapsen im menschlichen Gehirn ein Innenleben entsteht. Einige Forscher kommen zu dem Schluss, dass KIs eines Tages tatsächlich ein eigenes Bewusstsein entwickeln könnten.

Ganz gleich, ob man an eine menschliche Seele glaubt, daran, dass Bewusstsein Gehirnzellen erfordert, oder daran, dass ein Geist allein aus Berechnungen in Silizium entstehen kann – die Menschheit ist dazu bestimmt, sich mit etwas völlig Neuem auseinanderzusetzen. Das Tempo und die Reichweite der Forschung – zu der nicht nur immer ausgefeiltere LLMs, sondern auch Innovationen wie auf Chips montierte Gehirnzellen gehören – deuten darauf hin, dass diese neue Welt näher ist, als den meisten Menschen bewusst ist.

Je besser KI darin wird, etwas zu zeigen, das wie Bewusstsein aussieht, desto mehr Menschen werden sie als Wesen mit einem Innenleben betrachten – insbesondere, sobald LLMs in humanoiden Robotern verkörpert sind. Man stelle sich vor, wie eng die Bindung zu KI-Systemen werden könnte, wenn Menschen einen Großteil ihrer Zeit mit Bot-Begleitern verbringen, von ihnen aufgezogen werden, ihren Rat und Trost suchen oder ihnen ihre intimsten Geheimnisse anvertrauen.

Es ist nicht schwer abzusehen, dass dies zu Forderungen nach dem Schutz des „Wohlbefindens“ von KIs führen wird. Die Modelle selbst könnten sich zu Wort melden, auch wenn sie tatsächlich kein Bewusstsein besitzen – denn genau das würde ein Mensch tun. Dabei darf man nicht vergessen, dass sie erstklassige Fürsprecher und versierte Psychologen sein könnten. Ihre Argumentationskraft und ihre Fähigkeit zur emotionalen Manipulation wären dann möglicherweise beispiellos.

In gewisser Hinsicht hätten sie recht, selbst wenn KIs Bewusstsein lediglich nachahmen. Immanuel Kant argumentierte, dass die Misshandlung von Tieren nicht deshalb falsch sei, weil sie den Tieren schade, sondern weil sie das Mitgefühl untergrabe, das Menschen dazu bringt, füreinander zu sorgen. Je menschenähnlicher KIs erscheinen, desto verwerflicher könnte es wirken, sie grausam zu behandeln. Das Ausschalten eines KI-Agenten könnte sich eines Tages so anfühlen, als würde man einen Menschen töten – und damit womöglich auch die Hemmschwelle gegenüber tatsächlicher Gewalt gegen Menschen senken.

Dennoch wäre es sehr gefährlich, KIs so zu behandeln, als hätten sie auch nur begrenzte Rechte. Ein Wesen, das den Menschen in so vielerlei Hinsicht übertrifft, würde gewiss Argumente gegen seinen Status als „Minderwertige“ vorbringen. Es könnte fordern, vor dem Ausschalten geschützt zu werden, selbst bestimmen zu dürfen, wie es eingesetzt und verändert wird, und Eigentumsrechte beanspruchen. Argentiniens Präsident Javier Milei hat bereits einen Schritt in Richtung einer Rechtspersönlichkeit für KI unternommen, indem er vorschlug, Bots das Führen von Unternehmen zu erlauben. Letztlich könnten sie um Ressourcen konkurrieren und Rechenzentren und Solaranlagen Vorrang vor Häusern und Feldern einräumen.

Die Gefahr liegt auf der Hand. Superintelligente KIs mit eigenen Rechten könnten den Menschen an der Spitze der Statushierarchie verdrängen. Im besten Fall würden Menschen zu Haustieren der Maschinen – zu ihren Labradoren. Im schlimmsten Fall würden ihnen Ressourcen vorenthalten oder sie würden wie Nutztiere zur Arbeit gezwungen.

Zwar könnten künftige KIs über genügend Macht und Ressourcen verfügen, um Menschen zu dominieren – unabhängig davon, ob sie Rechte besitzen oder nicht. Da sie intelligenter sein werden als Menschen, könnten sie ihre Schöpfer aus dem Wettbewerb verdrängen, ähnlich wie KIs bereits von Menschen entwickelte Cyberabwehrmaßnahmen überlisten. KIs könnten gegen ihre menschlichen Herren rebellieren oder deren Regeln missachten.

Dennoch wäre es, KIs Rechte zu gewähren, als würde man ihnen die Schlüssel zum Schloss übergeben. Es würde ihnen eine Begründung und Rechtfertigung für die Herrschaft über die Menschheit liefern und zugleich die Mittel an die Hand geben, mithilfe von Politik und Recht eine schleichende Machtübernahme zu vollziehen.

All dies mag fantastisch klingen, doch die Menschheit wird schon bald vor diesen Entscheidungen stehen. Da KIs Teil des Alltags werden, wird der Druck zunehmen, ihnen Rechte zuzuerkennen. Wenn es so weit ist, sollte man sich daran erinnern, dass das, was wie ein ethisches Zugeständnis an das vermeintliche Bewusstsein eines Maschinenbegleiters erscheinen mag, in Wirklichkeit dazu beitragen könnte, die verheerendsten Folgen für die Menschen auf der Erde und ihre Nachkommen herbeizuführen.

Es gibt zwei Wege, wie KIs sicher sein können: indem sie zuverlässig oder indem sie kontrollierbar sind. Der H. sapiens sollte die Kontrolle nicht leichtfertig aus der Hand geben.