CINA. Censurate in tempo reale le immagini delle chat

50

L’applicazione di messaggistica cinese WeChat, o Weixin in cinese, sta usando le immagini inviate tra i suoi utenti per implementare la autonomamente la sua lista nera di immagini sensibili, secondo un nuovo studio di Citizen Lab dell’Università di Toronto.

La ricerca si è concentrata su come WeChat, di proprietà di Tencent e con una base utenti mensile attiva di oltre 1 miliardo di persone, utilizzi una serie di meccanismi di censura per controllare i file di immagini inviati tra gli utenti nelle chat di gruppo e one-to-one, riporta Scmp. Lo studio ha scoperto che l’applicazione, senza richiedere il coinvolgimento umano, può espandere la propria blacklist di immagini vietate sottoponendo i file ad analisi sia in tempo reale che retroattivamente. 

WeChat è la piattaforma di social media più popolare in Cina, che gestisce circa 45 miliardi di messaggi inviati e ricevuti dagli utenti ogni giorno, secondo i dati aziendali dal 2018. Questo numero è di circa 20 miliardi per la piattaforma di chat Messenger di Facebook e 65 miliardi per WhatsApp.  I ricercatori non hanno avuto accesso al funzionamento interno dell’app, ma hanno tratto conclusioni basate su mesi di analisi sperimentale.

Tencent starebbe formando il sistema senza il consenso degli utenti: un meccanismo controlla in tempo reale le immagini rispetto a un database di immagini della lista nera esaminando l'”hash” del file (un’impronta digitale composta da una serie di bit che possono essere estratti e letti in pochi secondi prima che il file raggiunga il destinatario previsto). Se l’hash corrisponde a un file esistente nell’indice hash di WeChat delle immagini proibite, il file sarà filtrato e bloccato, secondo la ricerca.

Se non c’è corrispondenza, l’immagine sarà consegnata al destinatario, ma sarà poi analizzata  per lo screening retroattivo utilizzando due ulteriori strumenti: uno strumento di riconoscimento ottico dei caratteri che scansiona l’immagine alla ricerca di parole o frasi sensibili, e un altro che controlla la somiglianza visiva dell’immagine con altre immagini precedentemente censurate.  Se uno di questi test risultasse positivo, l’hash dell’immagine verrà aggiunto alla blacklist dell’applicazione, il che significa che l’immagine può essere bloccata in tempo reale ogni volta che un altro utente tenterà di inviarla in futuro.

I ricercatori hanno confermato il processo manipolando l’hash di un’immagine nota bloccata senza alterarne l’aspetto visivo; il file modificato potrebbe essere inviato con successo una volta, ma non una seconda volta, indicando che l’hashish dell’immagine è stato aggiunto alla blacklist di WeChat. 

Lo studio WeChat del Citizen Lab ha anche rilevato che le immagini sono state censurate più facilmente nelle chat di gruppo e su Moments che nelle chat one-to-one, indicando che la portata potenziale di un’immagine è integrata nel meccanismo di censura.

Graziella Giangiulio