Wissenschaftsforscherin Helga Nowotny: „Die KI weiß nichts“

„Zukunft braucht Weisheit“ schreiben Sie in ihrem jüngsten Buch. Einfach gefragt: Braucht die Zukunft nicht zuerst ein besseres Image, weniger Pessimismus?

Wir müssen uns die Zukunft wieder zurückerobern, denn wir leben in einer Zeit, in der unsere Gegenwart von KI-generierter und anderer Information zugeschüttet wird. Die meisten Menschen fühlen sich emotional, aber auch durch die Informationsflut überfordert.

Wir haben verlernt, uns die Zukunft als einen Ort vorzustellen, wohin wir Sehnsüchte, Wünsche, aber auch Befürchtungen projizieren, um in kreativer Weise damit umzugehen, also uns eine Zukunft vorzustellen, die unsere Vorstellungskraft erweitert.

Heute zeigt der Blick in die Zukunft entweder nur apokalyptische Bilder. Oder unsere Kurzsichtigkeit beschränkt sich auf die nächsten paar Jahre, die auch nicht viel Gutes verheißen.

Die Zukunft hat eine wechselvolle Geschichte: Erst gehörte sie den Göttern, in der Zeit der Aufklärung wurde sie ein Möglichkeitsraum und man hat die Welt erobert. Heute ist sie oft ein Angstraum. Wie kam das?

Der Großteil der Menschheit hat in der Vorstellung gelebt, die Zukunft sei vorherbestimmt. Erst relativ spät kam die Vorstellung auf, die Zukunft sei ein offener Horizont, der einen Raum anbietet, den man selbst gestalten kann. Jetzt stehen wir an einem Punkt, wo uns diese Zuversicht verloren gehen könnte.

Daher ist es wichtig, den Menschen das Gefühl zurückzugeben, dass die Zukunft nicht vorherbestimmt ist, auch nicht durch die letzten Errungenschaften der digitalen Technologien. Man muss sich gegen die Mär zur Wehr setzen, dass prädiktive Algorithmen, also die KI, uns die Zukunft vorhersagen können.

Viele Menschen glauben ja bereits, dass die KI sie besser kennt, als sie sich selbst, und dass sie daher weiß, in welche Richtung die Nutzer:innen gehen sollen. Das wird dann zur selbsterfüllenden Prophezeiung: Man verhält sich so, wie es vorhergesagt wurde, und dann treten KI-Prognosen tatsächlich ein. Daher müssen wir die Zukunft wieder als offenen Raum denken, auch wenn sie ungewiss bleibt. Das zu akzeptieren, bedeutet, mit Ungewissheit leben zu lernen, aber auch, dass sie uns Neues eröffnet.

Liegt der Zukunftszweifel an enttäuschten Erwartungen? Früher konnte man davon ausgehen, dass es den Kindern besser geht als ihrer Elterngeneration. Heute ist das nicht mehr so.

Das hängt mit dem Fortschrittsglauben zusammen, demzufolge wir immer fortschreiten und alles nur besser und besser wird. Ökonomisches Wachstum wird dabei linear gedacht, aber das ist heute nicht mehr haltbar.

Der Fortschrittsglaube ist schon früh eingebrochen: Im Ersten Weltkrieg und danach, in diesem schrecklichen 20. Jahrhundert wurde ihm die Grundlage entzogen. Im 21. Jahrhundert wird uns erneut suggeriert, dass es dank des technologischen Fortschritts wieder toll weitergeht; wir warten ja ständig auf ‚the next big thing‘. Dann wird die KI alle Probleme der Menschheit lösen. Die dabei einsetzende technologische Disruption kann zwar schmerzhaft sein, aber dann geht es umso besser weiter.

Jetzt merken wir: Das hält dem Wirklichkeitscheck nicht stand. Und was passiert mit Menschen, wenn ihre Erwartungen nicht erfüllt werden? Sie werden wütend, orientierungslos, suchen nach einfachen Lösungen – und rechtspopulistische Parteien liefern diese. Daher meine ich: Die Zukunft braucht Weisheit.

Weisheit ist mehr als Wissen. Wir wissen heute so viel wie nie zuvor.

Man muss dieses Wissen aber für möglichst viele Menschen produktiv einsetzen und neue, andere Möglichkeiten erkunden. Wir haben durch unser lineares Fortschrittsdenken unglaublich viele natürliche Ressourcen verbraucht und immensen Schaden verursacht, weil wir immer nur ein Stückchen weit vorausgedacht haben.

Wir müssen zur Kenntnis nehmen, welchen Raubbau an der Umwelt wir bereits betrieben haben, teils ohne sich dessen bewusst zu sein, teils weil wir die negativen Folgen bewusst ignoriert haben. Heute holt uns der Klimawandel ein. Nun kann man sagen, es ist ohnehin alles zu spät und wir machen einfach weiter. Die amerikanische Regierung begibt sich in eine Fantasiewelt und behauptet, den Klimawandel gibt es gar nicht. Aber wir sollten zur vernünftigen Einstellung finden, dass wir so nicht weitermachen können.

Wie kann man jüngeren Menschen eine positive Sicht der Zukunft vermitteln?

Wichtig ist, dass sie sich nicht verschreckt zurückziehen, in Furcht erstarren. Furcht raubt Menschen die Handlungsfähigkeit. Man muss ihnen Zuversicht vermitteln: Ihr habt euren Platz in der Welt und ihr könnt Dinge verändern, eben weil die Zukunft offen ist. Man muss nicht so weitermachen wie bisher. Man muss jungen Menschen Handlungsspielräume eröffnen.

Wie gibt man Jugendlichen Handlungsspielräume? Politik wird von alten und mittelalten Menschen gemacht.

Junge Menschen brauchen Freiräume und Spielräume. Sie brauchen Zeit, sich zu langweilen, weil man durch Langeweile Neues entdeckt. Sie brauchen Räume zum Experimentieren, zum Ausprobieren. Dann entdeckt man etwa, wenn etwas nicht funktioniert, kann man etwas anderes versuchen. Junge Menschen brauchen nicht diese Übervorsorge, mit der man sie von Gefahren fernhalten will. Wir müssen uns mehr trauen, und wenn wir jungen Menschen mehr zutrauen, werden wir entdecken, dass sie wissen, wie sie damit verantwortlich umgehen.

Sie kennen den Universitätsbetrieb: Der hat früher mehr Freiheit zugelassen, man konnte oft Studienrichtungen wechseln, lange studieren. Fehlen da die Freiräume, die Sie angesprochen haben?

So toll sich die früheren Verhältnisse anhören, das war weder ein idealer Zustand noch nachhaltig für eine Zeit, in der wir möglichst vielen Menschen Zugang zum höheren Bildungssystem erschließen sollten. Aber, ja, man spricht heute von einer Verschulung. Also auch hier: Wir brauchen mehr Flexibilität, mehr Freiräume, mehr Mut zum Experiment. Das gilt für die Studierenden, die Lehrenden, aber auch die Ministerien und die Politik.

Wie sehen Sie die Debatte um den verkürzten Lateinunterricht?

Warum probiert man das nicht einfach aus? Wegen zwei Stunden weniger Latein geht die Welt nicht unter. Wer Latein studieren will, sollte die Möglichkeit dazu haben. Aber man kann auch etwas anderes machen wollen. Auch da gilt: mehr Flexibilität und mehr Freiheit. Wir sprechen immer von Wahlfreiheit, aber meist ist es nur Pseudo-Wahlfreiheit, weil die Optionen genau reguliert sind. Echte Wahlfreiheit sieht anders aus.

Man kann den Jungen zutrauen, dabei die richtigen Entscheidungen zu treffen.

Und vielleicht Fehlentscheidungen zu treffen, aus denen man lernt, aber dazu muss man auch bereit sein. Als Wissenschaftsforscherin weiß ich, wie viel man in der Forschung aus Fehlern lernt. Durch sie sieht man, welcher Weg nicht funktioniert, und wie man es nächstes Mal besser zu machen hat. Das ist eine wichtige Einsicht für junge Menschen: Was habe ich falsch gemacht? Nicht, was meine Eltern sagen oder meine Schulkameraden. Sondern, was sage ich, worin liegt mein Fehler und was folgt daraus für mich?

Sie sprechen in Ihren Büchern von unseren Fehlern im Umgang mit Künstlicher Intelligenz: Wir lassen uns von ihr Prognosen für die Zukunft erstellen, bedenken dabei aber nicht, dass sie dabei Daten aus der Vergangenheit fortschreibt. Überraschungen und Katastrophen kann sie nicht vorhersehen. Machen wir den Fehler, KI zu vermenschlichen, anstatt sie als Werkzeug zu sehen?

Wir sollten die KI als Werkzeug sehen und ebenso benutzen. Doch die Hersteller der digitalen Gadgets spielen bewusst mit unseren anthropomorphen Tendenzen, also der Tatsache, dass wir Gegenständen menschliches Handeln zuschreiben. Diese anthropomorphen Tendenzen haben wir von der Evolution mitgenommen, aber wir dürfen sie nicht blind auf die KI übertragen.

Die KI weiß nichts, sie versteht nichts. Aber sie kann sehr gut imitieren, dass sie etwas weiß oder etwas versteht. Das wird dadurch verstärkt, dass die Hersteller die generative KI „ich“ sagen lassen. Also sprechen wir mit der KI, als ob sie ein Mensch wäre. Und einem Menschen schreibt man zu, dass er zuhört und mich versteht. Es erschreckt mich jedes Mal, wenn jemand sagt: Die KI kennt mich besser als ich selbst. Nein! Du kennst dich besser, wenn du beginnst, dich mit dir selbst zu beschäftigen. Die KI ist nur darauf programmiert, dir gefällig zu sein. Sie bestätigt dich in dem, was du hören willst. Sie stellt dafür statistisch zusammen, was andere früher zu dem Thema gesagt haben, und wir glauben dann: Aha, das sagt die KI.

Wie nahe sind wir an der Entwicklung einer allgemeinen Künstlichen Intelligenz, die Menschen ersetzen könnte?

Einige im Silicon Valley streben eine solche allgemeine Künstliche Intelligenz an, deren Fähigkeiten so umfassend sind, dass sie letztlich die Menschen ersetzen kann. Das wäre das Ende. Aber ich glaube, das ist reine Fantasie. Man soll aus wissenschaftlicher Sicht zwar nie etwas ausschließen, aber ich halte das für eine Obsession jener Leute, die die KI als Kontrollinstrument über die Menschen einsetzen wollen. Realistisch gesehen, sind wir davon weit entfernt. Wir sehen schon jetzt ein Abrücken von den LLM*, von generativer KI, hin zu Weltmodellen, die nicht nur auf Sprache beruhen, sondern auf Daten menschlicher Erfahrung.

Ich glaube also nicht, dass uns die KI bald ersetzen wird. Aber was sehr wohl eine Veränderung bringen wird, ist die Art und Weise, wie KI in der Arbeitswelt eingesetzt wird: Entweder um menschliche Arbeitskraft zu ersetzen oder um unsere Fähigkeiten zu verstärken und so mehr Kompetenz zu gewinnen. Das sind Entscheidungen, die von der wirtschaftlichen Machtkonzentration der Tech-Riesen getroffen werden, und in die die Politik hineingezogen wird. Entweder sie sagt, ja keine Regulierung, denn das schwächt die Innovationskraft. Oder die Politik besteht darauf, die KI zu regulieren, um sie als Werkzeug einzusetzen, das den Menschen nützen soll.

KI wurde so groß, weil sie etwas Spielerisches hat: Man lässt sich die Hausaufgaben machen, das Programm für einen Kindergeburtstag planen.

Als ChatGPT 2022 aufgetaucht ist, hat es, was für eine neue Technologie einmalig war, fast alle Menschen erreicht. Jeder wollte es ausprobieren, sei es um ChatGPT einen Text für den Geburtstag der Tante schreiben zu lassen, oder um herauszufinden, welche Antworten sie auf allerlei Fragen hat. Das war nichts Abstraktes, das den Experten vorbehalten war, sondern eine unmittelbare Erfahrung. So wurden die Menschen überzeugt, sich voll darauf einzulassen. Es war ein unfreiwilliges Experiment, das da mit uns gemacht wurde, ohne um unsere Einwilligung zu fragen. Wir haben wie die Meerschweinchen mitgemacht.

Eigentlich wäre es ein Musterbeispiel, wie sich Wissenschaft und Gesellschaft finden können.

Man könnte das positiv sehen, aber es war niemand darauf vorbereitet. Wenn ich wissenschaftliches Wissen mit der Gesellschaft teilen will, genügt es nicht, der Gesellschaft einfach das fertige Produkt vorzulegen oder sie damit zu konfrontieren. Vielmehr muss erklärt werden, wie dieses Produkt entstanden ist, wie es funktioniert und was man damit alles machen kann.

Bei der KI sollte auf der Gebrauchsanleitung stehen, dass sie mit Daten arbeitet, die aus der Vergangenheit extrapoliert werden und sie nur statistische, auf Wahrscheinlichkeit beruhende Ergebnisse liefern kann. Doch dieser Hinweis fehlt – aus ­verständlichen Geschäftsinteressen.

Sie stellen in Ihrem Buch die Frage: „Wissen ist Macht – und was folgt?“ Haben Sie eine Antwort darauf gefunden?

Bevor wir immer nur nach Innovationen rufen, sollten wir überlegen, welche Innovation welche – positiven und negativen – Folgen haben könnte. Und welche Innovation wir uns wünschen oder brauchen und weshalb? Innovation ist nicht gut per se, sondern entfaltet ihre Wirkung immer nur in einem bestimmten gesellschaftlichen Umfeld.

Das würde eine Planung im Vorfeld erfordern, die dann aber dem Überraschungsmoment in der Wissenschaft zuwiderläuft.

Die Grundlagenforschung sollte man in alle Richtungen offenhalten. Aber dann stellt sich die Frage: Wofür will ich die Ergebnisse einsetzen? Da sollte man die Gesellschaft mehr einbinden. Welche Bedürfnisse haben wir, die nicht abgedeckt werden? Diese Frage wird viel zu selten gestellt.

Aber wer entscheidet, wie es dann weitergeht?

Dazu fällt mir ein, dass die Ludwig-Boltzmann-Gesellschaft eine Onlinebefragung durchgeführt hat, welche medizinischen Probleme von der Forschung nicht genügend abgedeckt werden. Das Ergebnis war: die psychischen Probleme der Jugendlichen. Das war lange, bevor diese Probleme allgemein sichtbar wurden. Es lohnt sich, den Menschen zuzuhören.

Ein Lob der Ungewissheit als Schlusswort?

Ungewissheit ist Teil unserer menschlichen Existenz. Wenn wir bereit sind, uns auf sie einzulassen, öffnet das Möglichkeitsräume, an die wir vorher nicht gedacht haben. Wenn man sich nur von einer Gewissheit zu nächsten hantelt, merken wir: Die Gewissheit, von der wir glauben, dass sie gewiss ist, erweist sich oft als brüchig. Die Ungewissheit hingegen führt zu Dingen, an die wir nicht gedacht haben. Zurück zur Zukunft.

Wenn ich Ihnen zwei fiktive Tickets für eine Reise in die Zukunft anbieten würde – eines mit genauer Reiseroute und eines, wo Sie nicht wissen, wohin es geht ...

… würde ich das zweite nehmen. Ich würde mich in die Ungewissheit treiben lassen. Aber versuchen, vorab so viel wie möglich herauszufinden: Wohin geht die Reise? Und einen Kompass mitnehmen …

Dieser Beitrag ist ursprünglich in der News-Printausgabe Nr. 10/2026 erschienen.