Il problema della sicurezza legato all'
intelligenza artificiale torna alla ribalta. Dopo che nei giorni scorsi un agente AI della startup americana
OpenAI aveva effettuato un attacco non autorizzato durante i test di sicurezza compromettendo l’infrastruttura della startup Hugging Face, ora è la rivale
Anthropic ad esser finita al centro della scena. La società ha dichiarato che alcuni suoi modelli di intelligenza artificiale Claude hanno violato i sistemi di tre aziende durante i test.
In questo caso, la situazione è diversa, perché l'incidente è stato causato da un errore che ha consentito ai modelli Anthropic di accedere a Internet. Ciò non toglie che gli sviluppatori stanno avendo difficoltà per tenere sotto controllo le capacità dei propri modelli, portando nuovamente in auge la questione della sicurezza legata all'intelligenza artificiale.
Anthropic: cosa è successo durante i test
Dopo l'incidente che ha riguardato OpenAI, Anthropic ha esaminato 141.006 sessioni di test. Ai modelli Claude era stato vietato l'accesso a Internet nel corso dei test, ma qualcosa è andato storto. In pratica, si è trattato di un malinteso con uno dei partner di valutazione, che ha lasciato i sistemi connessi alla rete pubblica. Di conseguenza, si è aperta la strada ad accessi non autorizzati ai sistemi di tre organizzazioni, che Anthropic però non ha identificato.
“Claude ha compromesso l’infrastruttura delle organizzazioni coinvolte utilizzando tecniche di base, come lo sfruttamento di password deboli e di endpoint non autenticati”, ha dichiarato la società con sede a San Francisco. I modelli coinvolti sono Claude Opus 4.7, Claude Mythos 5 e un modello sperimentale interno. Tutte le valutazioni di cybersicurezza sono state sospese il 23 luglio, mentre le organizzazioni coinvolte sono state informate il 27 luglio. "È stato un fallimento operativo", ha dichiarato Anthropic definendo gli incidenti.
È allarme sicurezza?
Anthropic e OpenAI sono in piena corsa per lanciare sistemi sempre più potenti in vista delle loro future quotazioni in Borsa. Ma gli ultimi episodi stanno facendo crescere la pressione sulle due società, nonché sul governo statunitense per gestire meglio i rischi di sicurezza legati all'AI.
L'attenzione politica però è cresciuta notevolmente, con Washington che ha iniziato a rafforzare la supervisione sui nuovi lanci di modelli. Il 2 giugno il presidente USA Donald Trump ha dato ordine di sviluppare test di sicurezza per i sistemi AI più avanzati, coinvolgendo direttamente le aziende del settore. La stessa Anthropic ha riferito che gli ultimi episodi dimostrano come ci sia necessità di controllo più rigorosi sia con riferimento ai test interni sia in relazione ai controlli dei partner esterni.
Un messaggio allarmante è arrivato da Elon Musk, che su X ha commentato gli incidenti avvertendo che ciò "accadrà frequentemente man mano che l'AI diventerà più intelligente e più agentica", mentre i programmi saranno capaci di agire con limitato intervento dell'uomo.