STATI UNITI D’AMERICA. E se le IA facessero danni? Il Pentagono si preoccupa

54

Mentre il Pentagono costruisce e adotta rapidamente strumenti di intelligenza artificiale, la leadership militare è sempre più preoccupata per un problema collegato: la sicurezza dell’IA.

La sicurezza dell’IA si riferisce in generale ad assicurarsi che i programmi di intelligenza artificiale non finiscano per causare problemi, non importa se per dati corrotti o incompleti, per cattiva progettazione o se hackerati.

La sicurezza dell’IA è spesso vista come un ripensamento al suo utilizzo ma, si fa notare il Dipartimento della Difesa è obbligato a mettere più attenzione sulla questione.

L’ampia implementazione di nuovi programmi e processi di apprendimento automatico presenta una ricca area di attacco: «Negli ultimi cinque anni, abbiamo visto un aumento di oltre il 5000% nel numero di nuovi attacchi scoperti e nuovi modi per rompere i sistemi. Molti di questi attacchi si concentrano sulle grandi fonti di dati che alimentano gli algoritmi IA», riporta Defense One.

Un rapporto uscito questo mese dal Center for Security and Emerging Technology di Georgetown nota: «In questo momento, è difficile verificare che il pozzo dell’apprendimento automatico sia libero da interferenze maligne. In effetti, ci sono buone ragioni per essere preoccupati. Gli aggressori possono avvelenare le tre risorse principali del pozzo – strumenti di apprendimento automatico, modelli di apprendimento automatico pre-addestrati e set di dati per la formazione – in modi che sono estremamente difficili da rilevare».

Il Dipartimento della Difesa Usa è alle prese con la sicurezza dell’IA mentre si affretta ad adottare strumenti in nuovi modi. Entro i prossimi tre mesi, lo Us Army invierà diversi team attraverso i suoi comandi operativi per determinare come integrare i loro dati con il resto del dipartimento, accelerare la distribuzione dell’IA ed esaminare «come portare l’IA e i dati al bordo tattico» per le truppe statunitensi.

«Il Dipartimento della Difesa», riporta il periodico statunitense, guarderà oltre la semplice educazione della forza lavoro tecnica sui problemi di sicurezza e raggiungerà anche “tutti in tutto il dipartimento”».

Tommaso Dal Passo