Il lato oscuro dell'intelligenza artificiale: l'impatto devastante della pornografia deepfake in Corea del Sud

Come le immagini manipolate distruggono le vite e mettono in discussione la giustizia nell'era digitale.

Era il 2021 quando il telefono di Ruma vibrò con un'inondazione di notifiche. I messaggi erano un incubo. Foto del suo volto, prese dai social media, erano state sapientemente innestate su corpi nudi e condivise in una chatroom di Telegram. I commenti erano volgari e degradanti, rispecchiando i messaggi del mittente anonimo. Questa fu l'introduzione di Ruma al terrificante mondo della pornografia deepfake, una crisi in rapida crescita in Corea del Sud.

Mentre il revenge porn esiste da anni, l'avvento di sofisticati strumenti di intelligenza artificiale ha reso chiunque una potenziale vittima. In Corea del Sud, un paese con una storia travagliata di crimini sessuali digitali, la tecnologia deepfake ha creato una nuova ondata di terrore, in particolare nelle scuole. Secondo il ministero dell'istruzione del paese, oltre 900 studenti, insegnanti e personale sono stati vittimizzati da crimini sessuali deepfake tra gennaio e l'inizio di novembre dello scorso anno. Questo non include nemmeno le università, che hanno visto anche un'impennata di attacchi. In risposta, il governo ha istituito una task force di emergenza e sono state approvate nuove leggi con pene più severe.

La National Police Agency ha esortato gli ufficiali a sradicare questi crimini, ma gli arresti sono scarsi. Secondo una dichiarazione della Seoul National Police, su 964 casi segnalati lo scorso anno, sono stati effettuati solo 23 arresti. Questo ha portato alcune vittime, come Ruma, a prendere in mano la situazione. Ruma, con l'aiuto dell'attivista Won Eun-ji, ha infiltrato la chatroom dove le sue immagini deepfake circolavano, raccogliendo informazioni e coordinandosi con la polizia. I loro sforzi hanno portato all'arresto di due ex studenti della Seoul National University, con il principale colpevole condannato a nove anni di reclusione. Tuttavia, la lotta per la giustizia continua.

Kim, un'insegnante di scuola superiore, ha vissuto il trauma in prima persona quando immagini manipolate di lei sono state condivise online. La sofisticata tecnologia ha creato immagini che erano stranamente realistiche. L'unica opzione della polizia era quella di richiedere informazioni sugli utenti a X (precedentemente Twitter). Frustrata dalla lentezza del processo, Kim e un collega hanno avviato una propria indagine, identificando alla fine il colpevole. Kim ha espresso la sua frustrazione per la mancanza di empatia pubblica, evidenziando l'atteggiamento prevalente secondo cui i deepfake non sono un reato grave.

Won Eun-ji, l'attivista, sottolinea che è necessario un cambiamento sociale. La condivisione e la visione di contenuti sessuali di donne non sono state considerate un reato grave per molto tempo in Corea del Sud. Descrive il sistema come uno di "umiliazione per conoscenza", in cui i colpevoli condividono foto e informazioni personali, spesso conoscendo le case e le famiglie delle loro vittime. Dal 2020, la lotta contro i crimini sessuali digitali è stata una battaglia costante di ecosistemi in contrazione ed espansione. Le vittime stanno spingendo per punizioni più severe per i colpevoli e chiedendo un'azione dalle piattaforme online.

Telegram ha subito maggiori pressioni per agire, incluso l'arresto del suo CEO Pavel Durov in Francia. Telegram ha accettato di aumentare la condivisione dei dati con le autorità, sebbene Won rimanga scettica sull'impegno dell'azienda. Una svolta è arrivata lo scorso gennaio, quando le autorità coreane hanno ottenuto con successo dati da Telegram, con il risultato dell'arresto di 14 persone. La banda criminale aveva preso di mira oltre 200 vittime. Nonostante questi progressi, le vittime come Ruma desiderano un maggiore supporto dalla polizia e dai tribunali, sottolineando che la vera giustizia è ancora lontana dall'essere realizzata.