Kanäle
Jetzt personalisiertes
Audiomagazin abonnieren
Log-in registrieren
forum verwendet Cookies und andere Analysewerkzeuge um den Dienst bereitzustellen und um dein Website-Erlebnis zu verbessern.

handverlesenswert

Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.

Du befindest dich im Kanal:

Medien und Gesellschaft

Undressing Clothoff: Nonkonsensualer AI-Nacktbildgenerator Unmasked

René Walter
Grafik-Designer, Blogger, Memetiker | goodinternet.substack.com

Irgendwas mit Medien seit 1996, Typograph, Grafiker, Blogger. Ask me anything.

Zum picker-Profil
René WalterDienstag, 05.03.2024

Vor wenigen Tagen veröffentlichte der Guardian zwei Namen, die mutmaßlich im Zusammenhang mit AI-Software für nonkonsensuale Nacktbilder stehen. Demzufolge scheinen das Geschwisterpaar Dasha Babicheva und Alaiksandr Babichau aus Weißrussland die Businesses hinter der populären AI-Undress-Software "Clothoff" zu betreiben, gegründet zu haben oder zumindest eng mit ihnen zusammenzuarbeiten. 

"Clothoff" steht im Zentrum des ersten AI-Nacktbilder-Skandals vom September 2023, als bekannt wurde, dass eine Gruppe Minderjähriger an einer Schule in Spanien AI-generierte Nackbilder ihrer Mitschülerinnen in Sozialen Medien und in Chatrooms tauschten.

Auf Anfrage des Guardian streitete Alaiksandr Babichau jegliche Verbindungen zu "Clothoff" oder den beteiligten Firmen ab und beendete bei weiteren Nachfragen das Gespräch. Kurz darauf wurden die Guardian-Reporter von einem Telegram-Account geblockt, der angeblich nicht von Babichau betrieben wurde.

Noch sehr viel weiter als die Recherche des Guardian geht die von mir hier gepiqte und davon unabhängige Untersuchung von Bellingcat, einer Plattform für investigativen Journalismus, die auf die Enthüllung der geheimen Machenschaften ganzer Firmennetzwerke spezialisiert ist. 

Kolina Koltai, Michael Sheldon und Nathan Patin decken in ihrer langen investigativen Reportage ein weitverzweigtes Konglomerat aus Firmen auf, die unter Vorspielung falscher Tatsachen -- bis hin zum AI-generierten CEO -- eine ganze Reihe von sogenannten "Nudify"-Apps betreiben und diese mit Hilfe von Scheinfirmen und sogenannten "'Clothoff'-Dealern" monetarisieren. Diese Scheinfirmen helfen dabei, den Zahlungen der Kundschaft einen legitimen Anstrich zu geben und die Terms of Services der Payment-Dienste wie Stripe oder Paypal zu umgehen.

Interessanterweise finden beide Recherchen unterschiedliche Drahtzieher: Während der Guardian das Geschwisterpaar Babicheva/Babichau als mutmaßliche Betreiber von "Clothoff" identifiziert, hat Bellingcat eine ganze Reihe von Hintermännern ausgemacht, die hinter dem riesigen Firmennetzwerk stehen, das die insgesamt vier von den Journalisten untersuchten AI-Nackbild-Apps betreibt: Ein globales, unfassbar opakes Netzwerk von "Geschäftsleuten", Firmen und Scheinfirmen mit Sitz in Miami, Spanien, Lettland, London, den Arabischen Emiraten, Ukraine, Russland, Los Angeles und vielen anderen Orten.

Zusammengenommen ergibt sich aus beiden Berichten ein desolates Bild, das herkömmliche Shady Business Praktiken in den Schatten stellt. Globale Banden von Kriminellen nutzen frei zugängliche Open Source AI-Algorithmen zur Erstellung von Software für nonkonsensualen Porno/Nacktbilder und nutzen die Mechanismen des neoliberalen Kapitalismus, um ihre Machenschaften geschickt zu verschleiern: Den professionellen Betrieb von automatisierter Next Level Psychosexual AI-Violence.


Im Februar veröffentlichte 404Media einen Artikel über die Polizeiberichte zu den Untersuchungen eines Skandals um nonkonsensuale AI-Nackbilder an einer Highschool in einem Vorort von Seattle, wo 14jährige andere 14jährige mit AI-Software "nacktmachen" -- eigentlich ein Begriff aus der Hacker- und Troll-Szene, der vor allem "Doxxing" beschreibt -- und wo weder die Betroffenen noch deren Eltern noch die Schule noch die Polizei wissen, wie sie mit der Situation umgehen sollen.

Aufklärung an Schulen über die Hintergründe dieser kriminellen Machenschaften von global agierenden Banden, die den Hormonüberschuss vor allem männlicher Teenager gezielt ausnutzen, kommodifizieren, monetarisieren und ihre Gewinne aus automatisierten AI-Apps über fadenscheinige Firmennetzwerke abschöpfen, gibt es nicht, und wie lange Bildungseinrichtungen dafür brauchen werden, um auf diese neue Situation angemessen zu reagieren, ist fraglich. Immerhin diskutieren wir auch 30 Jahre nach dem Start des World Wide Web immer noch darüber, ob man Medienkompetenz als Schulfach braucht.

Nur eines kann ich garantieren: Das, was derzeit auf den Smartphones von vierzehnjährigen Schülern an einer Highschool in einem Vorort von Seattle passiert, geschieht überall.

Undressing Clothoff: Nonkonsensualer AI-Nacktbildgenerator Unmasked

Möchtest du kommentieren? Dann werde jetzt kostenlos Mitglied!

Bleib immer informiert! Hier gibt's den Kanal Medien und Gesellschaft als Newsletter.

Abonnieren

Deine Hörempfehlungen
direkt aufs Handy!

Einfach die Hörempfehlungen unserer KuratorInnen als Feed in deinem Podcatcher abonnieren. Fertig ist das Ohrenglück!

Öffne deinen Podcast Feed in AntennaPod:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Downcast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Instacast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Podgrasp:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Bitte kopiere die URL und füge sie in deine
Podcast- oder RSS-APP ein.

Wenn du fertig bist,
kannst du das Fenster schließen.

Link wurde in die Zwischenablage kopiert.

Öffne deinen Podcast Feed in gpodder.net:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Pocket Casts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.