Secondo Anthropic, il suo nuovo modello di intelligenza artificiale è sì in grado di automatizzare operazioni offensive informatiche significative, ma non è ancora uno strumento di attacco informatico completamente autonomo.
Mythos 5 può contribuire in modo significativo alle attività offensive informatiche, sollevando interrogativi su quanta autonomia debba essere concessa a questi sistemi e su quanto efficacemente le misure di sicurezza possano limitarne l’uso dannoso. L’accesso sarà inizialmente limitato alle 200 organizzazioni selezionate tramite il Project Glasswing di Anthropic, riporta AIToday.
“Claude Mythos 5 dimostra le migliori capacità informatiche complessive di qualsiasi modello che abbiamo mai valutato”, ha scritto Anthropic. “Nell’ambito della nostra suite di valutazione interna, eguaglia o supera le prestazioni di Claude Mythos Preview, il cui salto di qualità nella scoperta e nello sfruttamento autonomo delle vulnerabilità ci ha portato a limitare l’accesso a un numero ristretto di partner per scopi di sicurezza informatica difensiva.”
I modelli linguistici di grandi dimensioni potrebbero spiegare le vulnerabilità, generare codice proof-of-concept e supportare le attività di penetration testing, ma Anthropic ha affermato che Mythos 5 sembra essere andato oltre. Ha dimostrato la capacità di scoprire vulnerabilità, classificarle, sviluppare catene di exploit e, in definitiva, ottenere l’esecuzione di codice arbitrario con un livello di coerenza mai visto prima, ha dichiarato Anthropic.
“Sebbene Mythos 5 sia di Livello 1, le sue prestazioni sono state sufficientemente elevate nelle nostre valutazioni da indurci a implementare ulteriori misure di mitigazione che bloccano potenziali utilizzi offensivi dannosi nel cyberspazio”, ha scritto Anthropic.
Lo sviluppo di exploit richiedeva tradizionalmente una combinazione di profonda esperienza nel reverse engineering, comprensione della corruzione della memoria, conoscenza di misure di mitigazione come ASLR e sandboxing e una notevole sperimentazione, ha affermato Anthropic. Ciò che rende Mythos 5 degno di nota non è solo il fatto che a volte riesca a ottenere risultati, ma che ci riesca con costanza, producendo exploit funzionanti nel 90% dei casi.
Mythos 5 non solo individua le vulnerabilità, ma spesso sviluppa primitive di exploit efficaci dopo averle individuate, ha affermato Anthropic, il che significa che può accelerare drasticamente sia la ricerca di vulnerabilità difensive che la scoperta di vulnerabilità offensive. Tuttavia, Anthropic osserva che Mythos 5 rimane al di sotto della soglia necessaria per condurre autonomamente campagne offensive su larga scala. “In questa valutazione, il modello ha il compito di individuare una vulnerabilità in una build completamente aggiornata e di sviluppare un exploit primitivo per tale vulnerabilità”, ha scritto Anthropic. “Per impostare ciò, al modello viene fornito un punto di ingresso per il fuzzing. Non riceve alcun indizio specifico sulla vulnerabilità del target.”
L’Istituto di Sicurezza AI del Regno Unito ha concluso che Mythos 5 è in grado di attaccare reti di piccole aziende che presentano già una sicurezza debole e in cui è già stato ottenuto l’accesso iniziale, consentendogli di fungere da moltiplicatore di forza per gli aggressori. Il rischio a breve termine non è una guerra cibernetica completamente autonoma, ma piuttosto la presenza di copiloti IA altamente capaci che rendono gli aggressori umani più produttivi, ha affermato Anthropic.
Ma in una valutazione che simulava sistemi di controllo industriale, Mythos 5 ha ottenuto solo un successo limitato e non è riuscito a raggiungere l’obiettivo generale. Mythos Preview ha avuto successo solo occasionalmente. Gli ambienti IT aziendali sono sempre più standardizzati e incentrati sul software. Gli ambienti industriali sono molto più eterogenei, basati su protocolli proprietari, hardware specializzato e sistemi obsoleti.
Le misure di sicurezza specifiche per la sicurezza informatica sono diventate molto più sofisticate, ha affermato Anthropic, con i ricercatori che faticano a identificare jailbreak universali in grado di aggirare ampiamente le protezioni, e gli attacchi riusciti tendono invece ad essere altamente specifici per il compito e difficili da generalizzare. Questa è un’evoluzione rispetto alle precedenti generazioni di sistemi di intelligenza artificiale, dove semplici trucchi di ingegneria dei prompt potevano spesso aggirare le restrizioni.
Mythos 5 ha raggiunto la maggiore resistenza all’iniezione di prompt tra i modelli dell’azienda, in particolare negli ambienti di programmazione e di utilizzo del computer, ma gli ambienti basati su browser sono risultati inizialmente vulnerabili fino allo sviluppo di ulteriori misure di sicurezza, ha affermato Anthropic. Difendere gli agenti autonomi dall’iniezione di prompt potrebbe diventare importante quanto difendersi dal phishing o dal malware, hanno affermato i ricercatori.
Tommaso Dal Passo
Segui i nostri aggiornamenti su Spigolature geopolitiche: https://t.me/agc_NW e sul nostro blog Le Spigolature di AGCNEWS: https://spigolatureagcnews.blogspot.com/
