Netz-Kontrolle: Europas Kampf gegen Hass und Desinformation

Der Auftritt von Jackie Fox im EU-Parlament war einer dieser Momente, die lange im Gedächtnis bleiben, einer dieser ganz speziellen Augenblicke, die tief bewegen und die immer wieder zitiert werden, wenn es um das Thema Cybermobbing geht. Bei ihrer emotionalen Rede im heurigen März rührte die Irin die Abgeordneten zu Tränen.

Jackie Fox’ Tochter Nicole, genannt Coco, nahm sich 2018 nach jahrelangem Online-Missbrauch das Leben. Coco war 21 Jahre alt, als sie die nicht endenden und unerbittlichen Angriffe nicht mehr ertrug und sich erhängte. „Es hat mich krank gemacht, von der Polizei zu hören, dass diese Leute, die meiner Tochter die Seele herausgerissen haben, niemals strafrechtlich verfolgt werden würden“, so Jackie Fox, die daraufhin unermüdlich für die strafrechtliche Verfolgung von Cybermobbing kämpfte.

Zwei Jahre später verabschiedete Irland ein entsprechendes Gesetz, benannt nach Nicole, es heißt „Coco’s Law“, das für schweres Online-Mobbing Strafen in der Höhe von bis zu sieben Jahren Gefängnis vorsieht. Mittlerweile haben auch andere Länder, etwa Italien und Frankreich, begonnen, gegen Drohungen, Bedrohungen und Belästigung im Netz vorzugehen. Was allerdings fehlt, ist eine einheitliche europäische Gesetzgebung. Das soll sich nun, geht es nach den Plänen des EU-Parlaments, ändern. Bei der vergangenen Plenartagung in Straßburg sprachen sich die Abgeordneten für effektive und abschreckende Strafen aus.

Die Mehrheit der Mandatarinnen und Mandatare war sich einig: Die bisherigen EU- und nationalen Maßnahmen reichen nicht aus, um Cybermobbing und Online-Belästigung zu bekämpfen. Es sollte erwogen werden, Cybermobbing als Straftatbestand auf EU-Ebene anzuerkennen. Immerhin zeigen Studien, dass jede/jeder sechste Jugendliche bereits Opfer von Cybermobbing wurde, jede/jeder achte gibt zu, an Mobbing beteiligt gewesen zu sein.

„Was offline illegal ist, muss auch online illegal sein. Das ist nicht nur eine Frage des gesunden Menschenverstands, sondern auch der Gerechtigkeit. Coco’s Law hat gezeigt, dass Gerechtigkeit möglich ist. Es hat eine Rechtslücke geschlossen und den Opfern einen besseren Schutz geboten. Das ist der Standard, den wir in der gesamten Union aufrechterhalten sollten, denn Schutz und Gerechtigkeit dürfen nicht davon abhängen, wo man lebt“, sagt der schwedische EU-Mandatar Tomas Tombé, stellvertretender Vorsitzender der Fraktion der europäischen Volkspartei und deren Verhandlungsführer zum Thema Cybermobbing.

Weil das digitale Leben unseren Alltag längst durchdrungen hat und die technischen Möglichkeiten derart vielschichtig sind, ist auch der Kampf gegen Missbrauch, Manipulation und Desinformation mannigfaltig. Es ist ein Einsatz auf zahlreichen Ebenen, und so kann durchaus passieren, dass es in einem Bereich einen Schritt nach vor, in anderen Punkten jedoch zurück geht.

So auch jetzt: Während das EU-Parlament beim Cybermobbing den Druck für Strafen erhöhte, scheiterte gleichzeitig der Trilog, also die Verhandlungen zwischen EU-Kommission, Rat und Parlament, zum Verbot von Entkleidungs-Apps. Dabei handelt es sich um Anwendungen, die, gestützt durch Künstliche Intelligenz, Kleidung von Bildern entfernen, also ungefragt Nacktbilder von Personen erstellen.

Die wohl bekannteste, die nach heftiger Kritik und behördlichen Ermittlungen neue Schranken einziehen musste, ist der KI-Chatbot Grok von Elon Musks Kurznachrichtendienst X. Ende 2025 wurde dort die neue Funktion zum Entkleiden von Menschen vorgestellt – schon wenig später kursierten unzählige gefälschte sexualisierte Fotos von Frauen im Netz.

Laut dem US-britischen Zentrum gegen Hass im Internet (CCDH) sollen mit Grok in nur elf Tagen rund drei Millionen KI-Bilder von Frauen und Mädchen im Bikini und in sexualisierten Posen veröffentlicht worden sein. Das entspricht 190 Bildern pro Minute! Grok ist nur ein Beispiel von vielen, und auch wenn einige dieser Apps bereits wieder verschwunden sind, bleiben solche Anwendungen noch immer verfügbar.

Eigentlich hätte das Verbot der Entkleidungs-Apps nun im Rahmen eines sogenannten Omnibusses, der Digital-Gesetze vereinfachen und entbürokratisieren soll, beschlossen werden sollen. Doch die Verhandlungen scheiterten und wurden vertagt. Sozialdemokraten und Grüne machen dafür Konservative und Rechte verantwortlich.

„Anscheinend ist für sie Deregulierung wichtiger als der Schutz von Mädchen und Frauen vor sexualisierter Gewalt“, sagt die grüne EU-Abgeordnete Lena Schilling. Sie betont: „Entkleidungs-Apps sind digitale Gewalt und treffen vor allem Frauen und Kinder: KI-Tools, die Menschen auf Knopfdruck entkleiden und Fake-Pornos erstellen, verletzen Würde, Sicherheit und Privatsphäre massiv.“ In einigen Wochen sollen die Verhandlungen weitergehen.

Auch in einem anderen Bereich ringt Europa um schärfere Regeln, hier geht es nicht um Gewalt und sexualisierte Bilder, sondern ums Geld. Es geht um Finfluencer – Influencer, die auf Instagram, TikTok und Co. Tipps zu Geldanlagen, Steuern, Kryptowährungen oder Aktien geben. Finfluencer sind mittlerweile zu einer neuen Macht in der Finanzkommunikation geworden, sie erreichen auf den Social-Media-Plattformen vor allem das junge Publikum. Viele versprechen Reichtum und schnelles Geld, doch so wie nicht alles Gold ist, was glänzt, sind nicht alle Finfluencer, die professionell auftreten, seriös.

„Ein 20-Sekunden-Video kann jetzt beeinflussen, wo Millionen Menschen ihre Ersparnisse investieren. Es wirkt ausgefeilt, selbstbewusst und datengesteuert. Es beeinflusst auch zunehmend reale finanzielle Entscheidungen mit realen Konsequenzen. Aber die Grenzen zwischen Bildung und Werbung sind oft fließend. Wir brauchen eine klare Kennzeichnung von bezahlten Inhalten, ehrliche und sichtbare Risikowarnungen, eine stärkere Durchsetzung von Betrugsbekämpfungsmaßnahmen und eine bessere Zusammenarbeit mit Online-Plattformen“, sagt Lídia Pereira, portugiesische Abgeordnete und Chefunterhändlerin des EU-Parlaments für den Bericht über finanzielle Bildung und die Rolle von Finfluencern, der am 30. April im Plenum in Straßburg verabschiedet wurde. Allerdings: Noch sind die Vorschläge ziemlich vage, von der Umsetzung erst gar nicht zu reden.

Eine, die stets Klartext spricht, ist die deutsche Politikerin Alexandra Geese, die für die Grünen im EU-Parlament sitzt. Für sie steht fest: Hass und Desinformation verbreiten sich in sozialen Netzwerken überproportional. Das liege an den Algorithmen – diese könnte man mit dem Digital Service Act, einem EU-weiten Regelwerk für alle digitalen Dienste, eigentlich regulieren. Doch in der Praxis geschehe dies nicht, weil es enormen Druck von den USA, wo die großen Tech-Konzerne ihren Sitz haben, gebe, so Geese.

Sie betont: „Künstliche Intelligenz ist nicht neutral. Sie lernt aus Daten – und wenn diese Daten diskriminierend sind, wird Diskriminierung reproduziert. Lügen und Fakes werden als Fakten wahrgenommen, wenn sie ständig wiederholt werden.“ Geese ist überzeugt, dass sich nur sehr wenige Menschen bewusst für Desinformation entscheiden. Wichtig sei es daher, den Menschen die Kontrolle über ihre Inhalte zurückzugeben, anstatt Rankings und Algorithmen, die von Milliardären gestaltet werden, als Naturgesetz zu betrachten.

Alexandra Geese ist ebenso wie NEOS-Mandatar Helmut Brandstätter Mitglied im Sonderausschuss für den Europäischen Schutzschild für die Demokratie, der seit Februar 2025 läuft. Dort wird zwar klar, dass sehr wohl ein Problembewusstsein herrscht, aber eben auch, wie langsam die europäischen Mühlen mahlen. Bis Juni soll ein Bericht des Ausschusses vorliegen, mit diesem wird die EU-Kommission dann zum Handeln aufgefordert.

Vielen Beobachtern geht dies alles viel zu langsam, während Europa Berichte erstellt, wird weiterhin Desinformation verbreitet, Sabotage und Manipulation betrieben. Helmut Brandstätter gibt Einblicke in den Ausschuss: Eine Expertin habe erklärt, das Geschäftsmodell von Plattformen wie X sei Hass. Ein Fachmann habe deutlich gemacht, dass China die technischen Möglichkeiten besitze, jederzeit Züge in Europa stoppen zu können.

Im vergangenen September kündigte EU-Kommissionspräsidentin Ursula von der Leyen das Vorhaben, mit dem gezielter gegen Wahlmanipulation vorgegangen werden soll, an. Es scheint durchaus dringend, denn seit Beginn des russischen Angriffskriegs auf die Ukraine, sind in Europa vermehrt Desinformationskampagnen zu verzeichnen. Etwa die russische Doppelgänger-Kampagne, die seit 2022 gefälschte Artikel renommierter Nachrichtenquellen auf sozialen Netzwerken wie Facebook und X mit russischen Narrativen verbreitet.

Seit der Ankündigung des Schutzschilds im vergangenen Jahr ist allerdings nicht viel passiert. Digitalkommissarin Henna Virkkunen stand dem Demokratie-Ausschuss im EU-Parlament vor Kurzem Rede und Antwort. Befragt zum groß angekündigten Europäischen Zentrum für demokratische Resilienz, das eine neue Drehscheibe für den Schutz und die Stärkung der Demokratie sein soll, sagte Virkkunen, das Zentrum habe seine Arbeit aufgenommen – es gebe schon ein Sekretariat.

Wann immer es in der EU um Regulierungen in der digitalen Welt geht, geht es stets auch um die Macht der großen Tech-Konzerne und US-Präsident Donald Trump, der die Stärke von Apple, Meta und Co. als Druckmittel einsetzt. Gerade unternimmt die EU-Kommission einen neuerlichen Anlauf: Meta, der Konzern hinter Facebook und Instagram, unternehme zu wenig, um Minderjährige zu schützen, betonte Digitalkommissarin Virkkunen vor Kurzem.

Kinder unter 13 Jahren hätten es zu leicht, auf den Plattformen mit eigenen Konten unterwegs zu sein. Sowohl die Meta-Plattformen als auch Snapchat, TikTok oder YouTube legen in ihren Nutzungsbedingungen fest, dass das Mindestalter für ein Benutzerkonto bei 13 Jahren liegt. Jedoch lassen sich all diese Plattformen natürlich auch ohne Konto verwenden.

Laut EU-Kommission nutzen in der EU etwa zehn bis zwölf Prozent der Kinder unter 13 Jahren Instagram oder Facebook. Brüssel fordert von Meta nun Nachbesserungen, sonst drohen Strafen in der Höhe von bis zu sechs Prozent des weltweiten Jahresumsatzes und Zwangsgelder. Dabei geht es um Milliardenbeträge – Metas Jahresumsatz betrug im vergangenen Jahr rund 200 Milliarden Euro.

Gleichzeitig präsentierte die EU-Kommission nun Details zu einer Altersprüfungs-App, damit können Nutzerinnen und Nutzer ihr Alter nachweisen, und jenen, die zu jung sind, wird der Zugang zu den Online-Plattformen verwehrt. So weit die Theorie. Bei einem Praxistest wurden die Sicherheitsschranken von Experten binnen zwei Minuten geknackt. Weil es manchen Ländern, darunter auch Österreich, bei der Diskussion um eine Altersgrenze für die Nutzung von Social Media europaweit zu langsam geht, haben diese Staaten bereits nationale Regeln erlassen oder arbeiten daran.

Doch das Problem mit den Plattformprovidern allein dadurch zu lösen, indem eine Altersgrenze eingeführt wird, ist zu kurz gedacht, sagt etwa die deutsche sozialdemokratische Abgeordnete Birgit Sippel. Die entscheidende Frage, die bisher von der EU noch nicht klar beantwortet ist, lautet: Wie weit ist Europa gewillt, sich mit Donald Trump anzulegen?

Dieser Beitrag ist ursprünglich in der News-Printausgabe Nr. 19/2026 erschienen.