I dibattiti su Internet si concentrano spesso sul fatto che le immagini prodotte con la tecnologia deep fake nel porno non sono “genuine”, omettendo però i danni reali prodotti.
Quando QTCinderella, una streamer di Internet, ha saputo che il suo volto era stato inserito nel corpo di una pornostar, è rimasta di stucco. Era una nota creator con più di 800.000 follower su Twitch che spesso si filmava mentre cucinava o giocava ai videogiochi. Era impegnata nell’organizzazione dell’evento 2022 da lei avviato, la seconda edizione degli Streamer Awards, quando il suo partner le ha detto cosa era successo.
Il deepfake era inquietante e indubbiamente disgustoso. Ma si trattava del corpo di uno sconosciuto. “Onestamente non sapevo cosa mi aspettasse”, ha ammesso.
Il 26 gennaio, gli spettatori dello stream Twitch di Brandon “Atrioc” Ewing hanno visto sul suo schermo una pagina web che conteneva deepfake di pornografia non consensuale che aveva acquistato. In questa comparivano noti streamer tra cui Blaire, Pokimane e Maya Higa.
Queste persone erano amici di Ewing e, in alcune circostanze, suoi colleghi. In rare occasioni, Blaire e Ewing trasmettevano in streaming insieme. Lei aveva preparato una torta nuziale per Ewing e la sua sposa. Come se non bastasse, Ewing aveva fatto conoscere a migliaia di altre persone l’esistenza di quei deepfake. Solo su Twitch ha più di 300.000 follower. Alcuni visitatori hanno rapidamente diffuso screenshot del sito web e dei deepfakes nel giro di poche ore. Ewing aveva acceso un fiammifero e le fiamme stavano divampando.
I deep fake e i rischi enormi che possono comportare
I deepfakes sono strumenti efficaci per la diffusione della disinformazione, ma possono anche influenzare le opinioni delle persone nel lungo periodo. Il fatto che alcuni spettatori riescano a capire che i media sono falsi non è sufficiente. Le ripercussioni sono reali. Altri hanno paragonato le molestie alle vittime con filmati e foto grafiche create per farle sembrare un’aggressione. L’uso ripetuto di questi filmati o fotografie per le molestie può essere traumatico.
A volte, amici e parenti non hanno l’alfabetizzazione web per riconoscere quando i media sono stati prodotti. Gli streamer osservano come la diffusione di contenuti sessuali prodotti a loro insaputa o senza il loro consenso macchi il loro marchio personale e professionale.
Le streamer di Twitch di sesso femminile sono soggette a un maggiore controllo rispetto a quelle di sesso maschile. Vengono ripetutamente sessualizzate contro il loro consenso e sono oggetto di molestie, minacce e stalking. È un aspetto terribile ma ben noto del loro lavoro. La discussione sui deepfake degli streamer si è concentrata soprattutto sulla questione se queste donne avessero il diritto di offendersi per le foto “false” nelle settimane successive allo streaming di Ewing e alle sue successive scuse. Anche le risposte di Ewing e del fidanzato di Blaire, un altro streamer che conosceva Ewing, hanno attirato l’attenzione dei fan.
Queste discussioni, tuttavia, sono fuori tema. Ignorano i danni reali a favore di giustificazioni ingannevoli. Concentrandosi sulle immagini “genuine” o “false”, non si tiene conto degli effetti a lungo termine che hanno sugli streamer e sul loro lavoro. Blaire afferma: “Stiamo soffrendo. “Questo sta danneggiando ogni singola donna coinvolta”.
Blaire, il cui cognome WIRED ha rimosso per motivi di privacy, ha iniziato a ricevere telefonate da alcune delle altre donne elencate sul sito la mattina in cui ha scoperto i deepfake. Alla fine ha notato gli screenshot. Si è sentita come uno schiaffo in faccia, ha detto. “Potrebbe anche essere il mio corpo, nonostante non lo sia”.
Lo stesso senso di violazione che deriva dall’avere il proprio corpo riflesso da quello di qualcun altro era presente. Le immagini erano angoscianti di per sé. Ma hanno anche esacerbato la sua dismorfia corporea di lunga data. Per la prima volta dopo tanto tempo, ha vomitato il suo pasto.
“È una sensazione davvero sgradevole vedere queste fotografie diventare virali e avere persone che ti sessualizzano senza che tu abbia scelto e senza il tuo consenso.”