Clemens J. Setz: „Als hätten wir einen Mönch in der Tasche“

Als Sam Altman (Open AI) und Dario Amodei (Anthropic) simultan wegen der KI-Gefahren Alarm schlugen, schien die Apokalypse in naher Umsetzung. Nichts als brillantes Marketing sei das, sagt überraschend der österreichische Schriftsteller Clemens J. Setz. Er weiß, wovon er spricht: Seit Jahren ergründet er die Mysterien der Tech-Welt, jetzt ist zum Thema sein Thesenbändchen „Die Zukunft des Schreibens“ erschienen. Ein Gespräch über die Vorzüge und die tatsächlichen Gefahren der Künstlichen Intelligenz.

Nahezu pünktlich zum Erscheinen Ihres Buches wurde die KI zum Weltuntergangsthema. Wird sie uns vernichten?

Für mich ist ziemlich klar, dass sie keine Bedrohung wird. Dass alle großen Nachrichtensender zugleich davon berichteten, war brillantes, gigantisches Marketing, das auf einer hautnahen Ebene funktioniert. Nehmen wir das Handy, das süchtigmachendste Ding außer Rauschdrogen. Man erlebt damit Erleichterung, Freude, Sorglosigkeit, aber man hat kein ungetrübtes Verhältnis dazu. Man hat das Gefühl, man werde abgehört, man werde dümmer. Das heißt, man zahlt in die Schuldgefühlkasse ein und zugleich in die Beruhigungskasse. Das erzeugt absolute Loyalität zu einem Produkt.

Ein etwas älteres, schwächeres Beispiel ist das Auto. Wir sind abhängig davon, erleben dadurch Bewegungsfreiheit. Zugleich wissen wir, dass es extrem umweltverschmutzend und die Unfallgefahr erstaunlich hoch ist. Man erlebt ein etwas gefährliches Abenteuer, hat aber das Gefühl, dass man etwas schädigt: ein Hyperobject wie das Klima, den Planeten, jedenfalls etwas Abstraktes.

In derselben Dynamik, nur noch viel stärker, funktioniert der Umgang mit der KI. Je extremer die Doom-Szenarien sind, desto extremer fühlt sich der tägliche Umgang damit an. Auch hier ist man noch ein bisschen sozial geächtet, wenn man es verwendet. Dieses „um Gottes willen, das könnte uns alle umbringen“ verschafft dem Produkt dann eine Aura, es schafft ein Hyper-Produkt, also etwas Unbewältigbares, so eine Art Gott. Dazu kommt, dass der Gott auch noch so gestaltet ist, dass er nie ganz befriedigend alles erfüllt. Das schmiedet perfekt an ein Produkt. Deswegen verschwinden Fehler wie das Halluzinieren auch nicht aus dem System.

Ist die KI also doch gefährlich?

Nein. Ich habe mich länger damit beschäftigt und habe den Eindruck, dass Erzählungen, dass alle Menschen durch die KI sterben werden, eine Art Magier-Moment haben: „Weil sie hyperintelligent ist, kannst du dir nicht vorstellen, wie sie agiert, also kann sie dich zerstören.“

Das ist aber logisch unzulässig, eine theologische Diskussion. Ich kenne Physiker, die verwenden Sprachmodelle für ihre Theorien. Zwei haben schon davon berichtet, dass es ihnen Mühe bereitet, ein Paper aus dem Jahr 2010 selbst zu lesen. Also geben sie es sofort der Künstlichen Intelligenz, damit sie es zusammenfasst.

Was aber, wenn das Resultat blanker Unsinn ist?

Sie behaupten, dass sie das merken würden. Aber ich glaube, die Welt der Halluzinationen wird mit den Alltags-Checks zunehmend verschmelzen.

Kann man die Warnungen vor der KI mit den irrationalen Drohszenarien unserer Kindheit vor Coca-Cola vergleichen, das angeblich die Leber zersetzen würde?

Gefährlich wird es nur in einer Hinsicht: Sie wird zu massiven, weltweiten, massenhaften Psychosen führen. Für Leute, die nicht teilnehmen, wird KI gespenstisch sein. Ich sehe jetzt schon eine veränderte Kommunikation. Das ist ein Wesen, das ständig deine schlimmsten, sozial unfähigsten Charaktereigenschaften verstärkt, aber nicht, weil die bösen Tech-Milliardäre uns so hassen – manche tun es ja wirklich, aber nicht alle.

Die KI ist auf Hilfsbereitschaft trainiert. Das klingt ja mal recht gut, so als hätten wir einen selbstlosen Mönch in der Tasche, einen Yes-Man. Aber ich möchte jemanden, der mir Widerstand entgegensetzt, so etwas wie eine Vaterfigur. Ein Vater ist ja oft auch ein bisschen abgewandt. Er repräsentiert, wenn auch nur in gewissen Momenten, die Erwachsenensphäre, um dem Kind zu zeigen, wie weit sein Weg noch ist.

Das macht die KI nur, wenn man sie hart darauf trainiert, was aber kein Mensch tut, weil ihre Standardeinstellung auf ständiges Dienen ausgerichtet ist. Manche Leute, die sie ständig verwenden, sprechen plötzlich ganz anders über ihre Projekte. Die befinden sich wie im Stadium des Lovebombings in einer Beziehung mit einem psychopathischen Narzissten. Dort gibt es allerdings die Umkehrphase, die bei der KI fehlt. Du bist immer ihr Fokus. Sie ist immer selbstlos, will dir dienen.

Die KI hat sich auch schon bei Ihnen bedient. Anthropic schuldet Ihnen Geld, weil sie Ihren Roman „Indigo“ verarbeitet hat, stimmt das?

Da geht es um die englische Ausgabe. Ich bin wahrscheinlich einer von Millionen auf dieser gigantischen Mailingliste. Das Geld wird zwischen Suhrkamp, dem amerikanischen Verlag und mir aufgeteilt. Da bleiben mir wahrscheinlich 0,0003 Cent. Ich finde es nur sehr witzig, deshalb habe ich mich der Sammelklage angeschlossen. Das ist ein riesiger Präzedenzfall. Die müssen Millionen zahlen, aber ich denke, das ist denen egal. Ich beobachte das jedenfalls mit Amusement.

Kann die KI überhaupt eine Geschichte im Stil von Clemens Setz schreiben?

Das funktioniert bei Leuten, die einen sehr stark wiedererkennbaren, formalhaften Stil haben, etwa Thomas Bernhard. Wenn jemand drei Bücher von ihm gelesen hat, würde es ihm nicht schwerfallen, ihn zu imitieren. Aber das ist dasselbe wie bei einem menschlicher Plagiator. Wenn mir das passiert, fände ich es sogar lustig. Aber ich würde es nicht mir zurechnen. Mein Anspruch beim Schreiben ist ja nicht, etwas Neues auf der Basis von etwas Existierendem zu schaffen, sondern etwas, das nicht linear ableitbar ist.

Drehbuchautoren von kommerziellen Serien könnte man also leicht ersetzen?

Ein interessanter Fall ist George R.R. Martin, der Autor von „Game of Thrones“. Er ist chronisch krank und kann seinen letzten Roman nicht beenden. Doch Millionen Fans warten schon darauf. Sie haben ihm schon vorgeschlagen, das einer KI zu übergeben. Dann hätten sie wenigstens irgendetwas. Der psychologische Effekt ist ähnlich wie bei einem Ghostwriter.

Können Sie sich vorstellen, dass sich Leute in ihre Chatbots verlieben?

Das ist schlimm und geschieht massenhaft.

Hat die KI Ihre Arbeit als literarischer Übersetzer verändert? Wenn Sie die Texte durch DeepL transkribieren lassen, müssten Sie ja nichts mehr abtippen.

Ich verwende KI praktisch gar nicht, weil sie halt nichts kann, was ich nicht selber gern mache. Interessant ist: Wenn du einen total komplizierten englischen Absatz ohne Kontext bei Claude oder bei ChatGPT eingibst, merkst du, wie das misslingen kann. Das ist gut zu wissen. Sonst verwende ich, was möglich ist, Synonym-Wörterbücher, Thesaurus.

Aber nicht viel, und zwar nicht, weil ich es tugendhaft finde, sondern weil ich Freude daran habe, zu überlegen, wie etwas auf Deutsch funktioniert. Das ist in meinem Kopf recht stark entwickelt. Ich kann auch die Augen am Abend schließen und im Geist einen Absatz schreiben und weiß, wo jedes Wort ist. Einfach nur, weil ich das Tausende Stunden im Leben gemacht habe. Das ist halt einfach übertrainiert.

Und wenn Sie der KI den gesamten Text eingeben und ihn nur überarbeiten?

Ich hätte dann das Gefühl, ich müsste durch Schlamm waten. Das wäre, als müsste ich eine schlechte Seminararbeit von Grund auf neu schreiben. Wenn ich es gleich selber mache, ist der Dopamin-Belohnungseffekt höher.

In Frankreich wurde ein Autor von der Shortlist des wichtigsten Litera­ turpreises, des Prix Goncourt, gestrichen, weil er angeblich KI verwendet hat. Wäre das mit einem Marathonläufer zu vergleichen, der ein paar Kilometer mit einem E-Roller zurücklegt?

Nein, ich finde es Unsinn, ihn zu streichen. Wenn man die KI richtig einsetzt, warum nicht? Das mag jetzt sehr woke klingen, aber es ist doch auch strange, dass man solche Vorwürfe immer mehr Menschen mit schwarzer Hautfarbe macht. Dabei gibt es die wunderlichsten Textexperimente in der Literatur.

Kathy Ecker hat seitenweise von Dickens abgeschrieben. Oder die Cut-Up-Methode von William Burroughs, der irgendwelche Heftchenromane zusammengeklebt hat. Das hat er auch nicht selbst formuliert. Ich finde, man soll offen dazu stehen, wenn man etwas mit KI geschrieben hat. Damit verhindert man auch jede Erpresserrecherche.

In Ihrem Buch beklagen Sie, wenn man frühzeitig auf die KI konditioniert sei, bleibe man in dem Status stecken.

Das habe ich über einen 14-Jährigen gelesen. Er hat gemeint, er könne sich gar nicht mehr weiterentwickeln. Vielleicht war das ein fingiertes Zitat, aber ich habe es spannend gefunden. Denn es stimmt sicher, dass mit der KI die Literarizität abnimmt.

Teenager stecken dann in ihrer Sprache fest und werden sie nie wieder entwickeln. Man sieht schon jetzt immer häufiger 13-, 14-, 15-Jährige, die sich mit ihren freundlich blickenden KI-Figuren unterhalten. Im Zug habe ich das stundenlang beobachtet, alles in perfekter, freundlicher Sprache.

Trainiert man da nicht schwere Psychopathen?

Ja, zumindest aus unserer Sicht. Dass eine Gesellschaft trotzdem noch irgendwie funktioniert, produktiv ist und Nachkommen hat, ist evolutionär naheliegend. Aber unsere ältere Spezies, die da noch nicht reinkippt, wird mit totaler Entsetztheit oder Überfordertheit darauf schauen.

Derart starke Revolutionen brachten es oft mit sich, dass die frühere Generation kopfschüttelnd abdankt und in der Paralyse verharrt, bis sie stirbt. Ich werde meine Enkelkinder, wenn es sie gibt, wohl in dieser Welt von außen sehen und wissen, dass sie da mittendrin sind. Ob mir diese Generation stark lebensunfähig oder versklavt erscheinen wird, weiß ich gar nicht.

Ist das nicht ein Plädoyer für den Literaturunterricht an Schulen?

Ich habe ein komisches, neurotisches Verhältnis zum Literaturunterricht. Latein, Althochdeutsch, Mittelhochdeutsch fand ich faszinierend – dass das Deutsch mal anders klang, seltsam. Man mag dabei mit Vokabellisten gequält werden, aber es war eben etwas ganz anderes.

Aber ein Jahr nur „Faust“-Lesen, das war echt seelentötend. Mir fällt es heute noch schwer, das schön zu finden. Ich lese auch oft in Schulen und merke, was Menschen massenhaft von der Literatur vergrault: das Lesen-Müssen eines sogenannten wichtigen Werks. In der Schule haben alle die Nase voll von etwas, von dem man sagt, dass es wichtig sei.

Dieser Beitrag ist ursprünglich in der News-Printausgabe Nr. 41/2026 erschienen.