Lancaster (LabNews Media LLC) – Forschende haben erstmals die zentralen Akteure identifiziert und benannt, die das wachsende Problem KI-generierter expliziter sexueller Inhalte im Internet ermöglichen. Die Studie mit dem Titel „The Backbone of Abuse“ wurde im Journal of Online Trust and Safety veröffentlicht und von Sarah Morgan von der Lancaster University gemeinsam mit Dr. Sophie Nightingale, ebenfalls Lancaster, und Professor Hany Farid vom Dartmouth College erstellt.
Die Erstellung und Verbreitung KI-generierter nicht-einvernehmlicher intimer Bilder (AI-NCII) hat nach Angaben der Forschenden rapide zugenommen, da solche Inhalte über Websites, soziale Medien und private Nachrichtenplattformen – viele mit Ende-zu-Ende-Verschlüsselung – leicht erzeugt und geteilt werden können. Schätzungen zufolge existierten 2023 rund 500.000 solcher Videos online. Bis 2025 sei diese Zahl auf geschätzt 8 Millionen gestiegen, wobei die Inhalte überwiegend Frauen und Mädchen zum Ziel hätten.
Sarah Morgan sagte: „Jeder, der ein einziges Foto online stellt, kann schnell und einfach zum Ziel von Inhalten werden, die ihn ohne Einwilligung in sexuellen oder intimen Kontexten darstellen. Die emerging Evidenz zeigt die weitreichenden und anhaltenden Schäden dieser digitalen Missbrauchsform.“
Hintergrund
Im Jahr 2024 ergab eine Untersuchung des britischen Senders Channel 4 News, dass fast viertausend bekannte Persönlichkeiten auf fünf der meistbesuchten Deepfake-Pornografie-Websites gelistet waren. Darunter waren Schauspielerinnen, Journalistinnen, Musikerinnen, TV-Stars und YouTuberinnen, deren Gesichter mithilfe von KI auf pornografisches Material montiert wurden. Eine Branchenanalyse zeigte zudem über vier Milliarden Aufrufe auf 40 der meistbesuchten Deepfake-Pornografie-Websites.
Methodik
Die Studie ist nach Angaben der Forschenden der erste Versuch, die zentralen Akteure zu identifizieren und zu benennen, die – wissentlich oder unwissentlich – die technologische Infrastruktur für Websites bereitstellen, die AI-NCII hosten. Infrastruktur umfasst Technologien und Architekturen wie Website-Hosting, Domain-Name-Server und Content-Delivery-Netzwerke, die es einer Website ermöglichen, Inhalte an Nutzer auszuliefern und ohne die Websites nicht funktionieren können.
Das Team erfasste zudem Kontextdaten zu jeder Website und stellte fest, dass einige Websites Hunderttausende solcher Videos hosteten und sich vor allem auf Stars der Hollywood- und Hindi-Filmindustrie, K-Pop-Idole sowie bekannte Feministinnen und Aktivistinnen konzentrierten, wobei nahezu alle Inhalte Frauen zeigten.
Zentrale Ergebnisse
Das Team identifizierte 88 Websites, die AI-NCII hosten, davon 38 ausschließlich. Fünf zentrale Akteure traten als dominierende Infrastrukturanbieter hervor, die den Betrieb der Websites ermöglichen, wobei Cloudflare der am häufigsten wiederkehrende Name war.
Die Forschenden prüften zudem, ob Websites über die Google-Suche auffindbar waren, und stellten fest, dass 93 Prozent leicht in einer Suche zu finden waren.
Forderungen der Forschenden
In verschiedenen Ländern werden Gesetze eingeführt, darunter in England und Wales, die das Teilen, Erstellen und/oder Anfordern von AI-NCII unter Strafe stellen. Die Hauptautorin Sarah Morgan betonte jedoch, dass dies nicht ausreiche.
„Solche Gesetze bieten eine gewisse Abschreckung. Aber welche weiteren Schritte können unternommen werden, um diesen Missbrauch von vornherein zu verhindern? Können wir die Verbreitung unterbinden? Dieser Missbrauch muss verhindert werden – Druck auf die Technologieplattformen auszuüben, die solche Inhalte an die Öffentlichkeit verbreiten, könnte unsere beste Chance sein, die rasante Ausbreitung KI-generierten sexuellen Missbrauchs zu reduzieren“, sagte Morgan.
Die Forschenden fordern die Infrastrukturanbieter, die AI-NCII-hostende Websites ermöglichen, auf, eine klare Haltung zu diesem missbräuchlichen Inhalt einzunehmen. Sie sollten Websites blockieren, die ausschließlich AI-NCII hosten, und die Dienste von Websites aussetzen, die AI-NCII innerhalb eines größeren Angebots hosten, bis ernsthafte Bemühungen zur Entfernung des Missbrauchs unternommen werden. Zudem sollten sie präventive Schutzmaßnahmen einsetzen, etwa Perceptual Hashing, um digitale Signaturen bestätigter AI-NCII-Inhalte zu extrahieren und deren Weiterverbreitung zu stoppen.
Dr. Sophie Nightingale ergänzte, es sei an der Zeit, damit aufzuhören, die Betroffenen von AI-NCII verantwortlich zu machen. „Allzu oft werden die Opfer sexuellen Missbrauchs für verantwortlich erklärt – es besteht ein dringender Bedarf, dies zu ändern. Die Schuld sollte den Tätern zugewiesen werden, die gefälschte Inhalte erstellen, verbreiten und deren Weitergabe ermöglichen, die Leben zerstören können.“
Die Forschenden der Lancaster University untersuchen auch die Auswirkungen und Schäden von NCII. Betroffene sind eingeladen, an einer vertraulichen Umfrage teilzunehmen.
Originalpublikation: „The Backbone of Abuse“, Journal of Online Trust and Safety, 30. September 2026.
