Deepfakes: KI und ihre Schattenseiten für Frauen

Frau Gengler, ein zentrales Argument Ihres Buchs „Feministische KI“ lautet: KI ist nicht neutral. Für Laien klingt das kontraintuitiv – Computer rechnen doch einfach nur. Wo entsteht diese Verzerrung?

Technologie und gerade auch KI ist menschengemacht. Deswegen beeinflusst unsere Gesellschaft die Künstliche Intelligenz und andersrum. Es entscheiden also Menschen darüber, warum und wo wir KI einsetzen und welche Daten im Training verwendet werden.

Daten bestehen zwar aus technischer Sicht aus Nullen und Einsen. Wenn wir uns aber anschauen, was darin steckt, dann sehen wir, dass Daten nicht neutral sind. Ein Beispiel: Daten aus Einstellungsentscheidungen zeigen, ob wir Personen zum Vorstellungsgespräch eingeladen haben oder nicht, basierend auf gewissen von Menschen (bewusst) ausgewählten Faktoren.

Und diese sind nicht ausschließlich fachliche Qualifikationen …

Richtig. Dazu zählen etwa auch Stereotype oder Vorurteile. Gewisse Personen laden wir nicht ein, obwohl sie objektiv gesehen passen würden. Aber sie haben vielleicht einen bestimmten Namen, oder sie haben Kinder bekommen und sind weiblich und so weiter.

Und wenn die KI gelernt hat, dass die Einstellung solcher Personen durch das Unternehmen weniger wahrscheinlich ist, werden diese Personen im Recruitingprozess durch KI möglicherweise einfach rausgefiltert und bekommen somit keine Chance. Die zugrundeliegenden Daten sind einfach nicht neutral.

Können Sie ein konkretes Beispiel aus der Praxis nennen?

Das Recruiting Tool von Amazon, das ich im Buch erwähne, wurde auf Basis des Einstellungsverhaltens in diesem Unternehmen der vergangenen zehn Jahre trainiert. Amazon stellte aber fest, dass es anhand von Keywords systematisch Bewerbungen von Frauen aussortierte. Wenn sich zum Beispiel eine Person beworben hat, die von einem Female College kommt, dann wurde sie von der KI aussortiert. Weil vermutlich bisher einfach noch keine Person von so einem College von einem Menschen eingestellt worden ist.

Diese Auswahl passiert also viel subtiler, als man denken würde – es steckt kein Masterplan dahinter, keine Frauen einzustellen?

Genau. Niemand hat explizit programmiert, dass Frauen die Stellen nicht bekommen sollen. Dazu muss es nicht einmal Vorgaben geben. Die Daten, auf deren Basis die KI arbeitet, sind das Problem. Sie liefern kein vollständiges Bild. Wir wissen, dass ChatGPT viele Daten von Wikipedia oder Reddit abgreift. Plattformen, auf denen hauptsächlich weiße Männer Content erstellen.

Die Beiträge von Frauen werden überdurchschnittlich oft abgelehnt, geändert oder gelöscht, auch das ist belegt. Es dominiert also viel Wissen, oder sagen wir: Die Perspektive einer hauptsächlich weißen, männlichen und privilegierten Schicht. Inhalte für diese Plattformen zu kreieren, muss man sich erst mal leisten können, es gibt dafür schließlich keine Bezahlung. Und dieser Blick auf die Welt wird von der KI reproduziert. Es ist also nur ein Ausschnitt, nur ein Blick von vielen möglichen.

Wann führt so etwas zu Ungerechtigkeiten und wann wird es gefährlich?

In der Medizin sollten wir gut aufpassen. Wir haben bis heute viel zu wenige Daten zum weiblichen Körper und weiblichen Symptomatiken. Ärztinnen und Ärzte arbeiten vielerorts mit unvollständigen Datensätzen und somit unvollständigem Wissen.

Dabei wird KI immer stärker auch in der Diagnostik eingesetzt.

Ja, aber wenn ich auf Basis solcher Daten dann die KI einsetze, um Muster zu erkennen, reproduziere ich die Fehldiagnosen und Versorgungslücken der Vergangenheit.

Immer öfter werden Deepfakes* erstellt und verbreitet. Was lernen wir aus dem Fall Christian Ulmen? Der Moderator soll mutmaßlich zahllose Deepfake-Pornos seiner eigenen Ehefrau erstellt haben.

Der Fall Christian Ulmen – und genau nicht der Fall Collien Fernandes (seiner Ehefrau, die den Fall angezeigt hat, Anm.) – zeigt: Es gibt in vielen Ländern keinen ausreichenden gesetzlichen Schutz vor männlicher Gewalt. Online wie offline. Es geht um männliche Gewalt an Frauen und einem System dahinter, das zum einen die notwendigen technischen Möglichkeiten bereitstellt und zum anderen wegschaut, kleinredet und duldet.

Wer trägt die Verantwortung?

Hier fehlt es offensichtlich nicht an Wissen, sondern am Willen, etwas zu verändern. 99 Prozent aller mit KI produzierten pornografischen Deepfakes werden mit Gesichtern und Körpern von Frauen erstellt und im Internet verbreitet. Ein bekanntes Tool, das Nutzern die Möglichkeit bietet, Frauen und Kinder auf Fotos zu entkleiden, ist Grok (der KI-Chatbot von Elon Musks xAI, Anm.). Wir müssen uns klar machen: Diese Funktionalitäten sind kein Zufall, sondern Businessentscheidungen.

Als Betroffene haben Sie die Beweislast und sehen sich mit einer ungeeigneten Gesetzeslage konfrontiert, die echte Bestrafung sehr schwierig macht. Und leider gilt oft: Einmal im Internet, immer im Internet. Auch hier ist der Druck auf Frauen, die in der Öffentlichkeit stehen, um ein Vielfaches höher als auf Männer. Erschwerend kommt hinzu, dass Deepfakes eher von rechten und rechtsextremen Parteien eingesetzt werden, die ohnehin schon ein eher frauenfeindliches, konservatives Weltbild vertreten.

Immer wieder wird argumentiert, KI verändere unser Empfinden für Schönheit. Auch hier werden Kritiker sagen: „Schönheitsideale waren noch nie realistisch.“ Welchen Unterschied macht also die KI?

Es stimmt, dass es Frauen, die dem aktuellen Schönheitsideal entsprechen wollen, nicht einfach haben und es vermutlich noch nie hatten. Einmal gilt extremes Dünn-Sein als attraktiv, dann wieder unnatürlich starke Kurven. Einen großen Unterschied machen zum Beispiel Filter auf Social Media. Plötzlich wird die Haut schöner, die Brüste größer und am Ende erkennen wir nicht einmal mehr, dass Filter verwendet worden sind.

Plötzlich sind nicht nur die Models oder Schauspieler unerreichbar schön, sondern die Nachbarin von nebenan. Reale, normale Menschen wirken plötzlich so perfekt und das in einem perfekt wirkenden Leben, dass dem natürlich niemand mehr entsprechen kann. Nichts davon ist echt, aber wir wissen es nicht, weil es so echt aussieht und plötzlich wird diese Perfektion zum neuen Standard. Gerade bei jungen Mädchen sind Bewegungen wie „Skinny­tok“ fatal, weil sie ihr Handy ja den ganzen Tag bei sich tragen und damit intensiv konfrontiert sind.

Sie thematisieren in Ihrem Buch häufig Situationen, die man auch mit dem Matthäus-Effekt zusammenfassen könnte: Wer schon hat, dem wird gegeben. Wie macht das die KI?

Die KI verstärkt, was bereits im analogen Bereich angelegt ist: Wer bereits sichtbar ist, bekommt durch die KI noch mehr Sichtbarkeit. Personen, die bereits im Rampenlicht stehen, zu denen es bereits viel Material im Internet gibt, bekommen durch die KI eine noch größere Bühne.

Die KI arbeitet mit Wahrscheinlichkeiten. War ein Speaker – hier bewusst männlich – bereits auf zahlreichen Podiumsdiskussionen, wird er dadurch öfter erwähnt, die KI findet ihn eher und spielt ihn eher aus, wenn Sie die KI beauftragen, Speakerinnen und Speaker vorzuschlagen. Und das sind vor allem …

Weiße Männer?

Richtig. Wenn Sie aber ein diverseres Podium wollen, weil sie auch andere Lebensrealitäten als die von weißen Männern abbilden wollen, müssen Sie das beim Verwenden der KI mitbedenken. Tun Sie das nicht, wird das alte Ungleichgewicht verstärkt, weil die KI in Mustern funktioniert.

Das Gegenargument: Dann sollen doch mehr Frauen Speakerinnen werden!

Das würde ein komplettes Verkennen der Machtstrukturen und des Status-quo bedeuten. Wir wissen, dass männliche Netzwerke hauptsächlich Männer weiterempfehlen. Natürlich will ich, dass sich mehr Frauen trauen, sichtbarer zu werden. Der Gegenwind, der Frauen entgegenschlägt, ist allerdings ungleich stärker als bei Männern, die sichtbar sind.

Ich bin auf LinkedIn sehr aktiv. Frauen werden viel eher in das Eck gestellt, sich „wichtig zu machen“, egal, wie fundiert ihre Statements sind. In dieser Situation Frauen die Schuld zuzuschieben, in dieser Ungleichverteilung der Macht, das halte ich für den falschen Zugang und für ein Schützen des Status quo, an dem eben nicht die Frauen schuld sind.

Sie argumentieren, dass Frauen selbst dann von der KI benachteiligt werden, wenn sie sich in Männerdomänen vorwagen.

Ich würde sagen, es kann eigentlich schon dann passieren, wenn wir nach einem Job suchen. Für die KI ist relativ schnell ersichtlich, dass ich zum Beispiel eine Frau bin, vermutlich eine weiße. Ich lebe in Bayern, ich habe einen gewissen Hintergrund und so weiter. Ich werde auf Basis dieser Daten sehr wahrscheinlich andere Jobs angezeigt bekommen als ein Mann, der sonst aus einem ganz ähnlichen Kontext kommt.

Auch da sind am Ende Wahrscheinlichkeitsberechnungen dahinter – Männer haben sich tendenziell öfter für solche Positionen interessiert oder es sind bisher eher Männer in diesem Bereich eingestellt worden. Vorselektion ist eine wichtige Funktion dieser Plattformen. Die Frage ist allerdings, auf welchen Faktoren diese Selektion beruht.

Auch die Job-Suchmaschine des AMS geriet wegen fragwürdiger „Muster“ in die Kritik: Technikjobs für Männer, Küchenjobs für Frauen – trotz gleicher Qualifikation. Aber wie lässt sich überhaupt erkennen, ob Frauen andere Jobs angezeigt bekommen als Männer? Wie würde eine Feministische KI in Ihrer Vorstellung aussehen?

Das ist schwierig, Sie müssten sich dazu von unterschiedlichen Laptops einwählen, denn was mir angezeigt wird, basiert auch stark auf meinem bisherigen Nutzungsverhalten. Wir brauchen ein KI-System, das nicht den Status quo reproduziert, sondern uns dabei hilft, diese Schieflage umzudrehen. Die Vergangenheit ist da oft einfach ein ungerechter Maßstab.

Es dürfte doch nicht so schwer sein, so etwas zu programmieren.

Ich würde eher sagen, es ist ein Feature, das bisher viel zu oft nicht gewollt war und nicht priorisiert wurde. Dazu braucht es den Willen, es nicht beim momentanen, ungerechten System zu belassen.

Sie sprechen in Ihrem Buch zum Beispiel von einem „Gender-Publication-Gap-Adé-Tool“ oder einer „Sexismus-Transparenz-Maschine“. Was soll das sein?

Das Thema Gender Publication ist auch ohne KI ein großes Thema in der Wissenschaft. KI-Tools löschen beim Zitieren zum Beispiel regelmäßig Namen von weiblichen Wissenschafterinnen aus Papers, weil die KI es beispielsweise für unwahrscheinlich empfindet, dass eine Frau im Bereich der Informatik als Erstautorin publiziert. Stattdessen werden männliche Namen eingesetzt. KI-Lösungen, die mir vorschweben, würden das Gegenteil tun. Sie würden uns aktiv auf Personen aufmerksam machen, die bisher weniger sichtbar sind.

Und wie soll Sexismus transparent gemacht werden?

Diese Idee kam aus der Community auf LinkedIn. Jemand meinte, wir sollten ein Tool entwickeln, das automatisch die Redezeit mittrackt und aufzeigt, wenn Menschen mehrmals unterbrochen werden. Es ist gut belegt, dass Männer in Meetings mehr Redezeit beanspruchen als Frauen und diese auch öfter unterbrechen. Das laut anzusprechen, bringt Frauen oft in unangenehme Situationen, sie werden als „schwierig“ wahrgenommen. Wenn der Computer das übernimmt, gibt es zumindest da keine Diskussion mehr.

Warum verwenden Sie gezielt die Bezeichnung Feministische KI und nicht ethische KI? Der Feminismus erlebt gerade einen ernsthaften Backlash, getrieben von unterschiedlichen Führungsfiguren, rechten, reichweitenstarken Podcastern, der sogenannten Manosphere und offen misogynen Bewegungen wie jener der Incels (Involuntary Celibates oder unfreiwillige Junggesellen, Anm.), die allesamt das Feindbild Frau eint. Kann eine Idee mit so einem Namen heute erfolgreich sein?

Der Ansatz der ethischen KI will vor allem mehr Transparenz und fokussiert technische Lösungen. Dabei fehlt aus meiner Sicht aber das Verständnis, dass unsere aktuelle Gesellschaft bereits große Ungerechtigkeiten aufweist und genau deshalb auch KI. Das sind keine technischen Ursachen. Und zum Feminismus: Ich definiere Femnismus nicht so, dass beispielsweise weiße Frauen bevorzugt werden sollen. Sondern als Geisteshaltung, die die Welt für alle gerechter macht und Machtstrukturen mit intersektionaler Perspektive hinterfragt.

Es gibt digital wie analog Gruppen, die deutlich mehr Privilegien haben als andere. Gerechtigkeit bedeutet, dass diese Privilegien eventuell wegfallen – mag sein, dass das nicht allen in den Kram passt, vor allem natürlich denen, die aktuell davon profitieren. Es kann bedeuten, dass eine Person eine Chance bekommt, die bisher nur ich hatte. Und das sollte doch eigentlich unser Anspruch an eine gerechte Gesellschaft sein.

Dieser Beitrag ist ursprünglich in der News-Printausgabe Nr. 21/2026 erschienen.