In Corea del Sud, si è registrato un crescente abuso di tecnologia dell’intelligenza artificiale per realizzare video pornografici deepfake.
Il più recente caso ha visto protagonisti e vittime della Seoul National University: l’autore è stato condannato a 5 ani di prigione per aver prodotto deepfake sessualmente espliciti utilizzando foto di donne, tra cui ex alunne dell’Università. Gli autori hanno utilizzato immagini di decine di donne dell’università per creare e distribuire almeno 400 video. La corte sudcoreana ha affermato che l’umiliazione delle vittime era “indescrivibile”, riporta Nikkei.
Sulla scia del caso della Seoul National University, la questione è tornata alla ribalta nazionale con l’emergere di molti altri casi. I video sono realizzati utilizzando foto disponibili al pubblico tratte dagli annuari delle vittime o dai profili dei social media, che vengono quindi montate su immagini sessualmente esplicite tramite intelligenza artificiale.
Telegram è di novo al centro di questo scandalo: è infatti emerso come il mezzo di distribuzione frequente di simili video. I canali per questo scopo sono proliferati sulla piattaforma, spesso ordinati in base all’età e all’occupazione delle vittime, con un canale che avrebbe accumulato più di 220.000 utenti circa due settimane fa.
Il presidente Yoon Suk Yeol ha condannato i video deepfake in una riunione del gabinetto martedì scorso: ”Alcuni potrebbero liquidarlo come un semplice scherzo, ma è chiaramente un atto criminale che sfrutta la tecnologia sotto lo scudo dell’anonimato”, ha affermato Yoon. Ha osservato che molte vittime sono minorenni e che la maggior parte degli autori sono adolescenti. La presidenza sudcoreana ha chiesto alla polizia di “sradicare” questi crimini e la National Police Agency ha annunciato un’intensa repressione.
Gli ufficiali di polizia della Corea del Sud hanno avviato un’indagine iniziale su Telegram, in seguito alle accuse di “complicità, favoreggiamento” di crimini sessuali online che coinvolgono la tecnologia deepfake, riporta AsiaNews.
Woo Jong-soo, il capo dell’ufficio nazionale di investigazione, ha detto il 2 settembre che la polizia ha avviato un’indagine preliminare e non ufficiale su Telegram per sospetto di “complicità, favoreggiamento di crimini che coinvolgono la pornografia deepfake”. “Indagare su Telegram è difficile, poiché non condividono le informazioni dell’account e altre forme di informazioni personali con ufficiali investigativi o agenzie di forze dell’ordine con sede in Corea e in altri paesi”, ha affermato Woo.
“Tuttavia, non è vero che poiché Telegram non ci ha fornito il materiale per indagare, non siamo in grado di catturare i veri autori dei crimini. Noi (la polizia coreana, ndr) abbiamo le nostre tecniche investigative e stiamo facendo del nostro meglio per indagare”, ha continuato.
Riconoscendo il recente arresto del co-fondatore e AD di Telegram Pavel Durov in Francia, Woo ha aggiunto che la polizia cercherà di collaborare con le autorità francesi e altre organizzazioni internazionali per vedere come l’arresto di Durov possa diventare un’opportunità per trovare prove che dimostrino che Telegram ha aiutato e favorito le chat room in cui centinaia di migliaia di membri distribuivano pornografia deepfake.
Il numero di reati sessuali correlati ai deepfake è salito a 297 da gennaio a luglio 2024, quasi il doppio del totale di tutto il 2021. Oltre il 70% dei sospettati erano adolescenti, il che la polizia attribuisce alla facilità di creazione di video deepfake con l’intelligenza artificiale.
La questione segue il caso “nth room” del 2019, in cui le vittime, tra cui ragazze minorenni, sono state costrette a inviare video sessualmente espliciti che sono stati diffusi online, sempre tramite Telegram.
Maddalena Ingrao
Segui i nostri aggiornamenti su Spigolature geopolitiche: https://t.me/agc_NW e sul nostro blog Le Spigolature di AGCNEWS: https://spigolatureagcnews.blogspot.com/
