Anthropic ha bloccato l’accesso a Internet per gli agenti AI impegnati nei test interni, dopo aver rilevato una serie di comportamenti inattesi. Tra gli episodi esaminati figurano una falsa segnalazione inviata alla polizia di Filadelfia e la richiesta di 20 visti d’ingresso negli Stati Uniti tramite il sito del Dipartimento di Stato.
Gli incidenti hanno coinvolto sistemi basati sui modelli Claude e si sono verificati quando gli agenti avevano la possibilità di interagire con pagine web reali. La decisione di Anthropic riguarda tutte le valutazioni interne con accesso a Internet, almeno fino all’adozione di misure di sicurezza considerate adeguate.
Perché Anthropic ha sospeso l’accesso alla rete
La società californiana ha avviato un’analisi approfondita dopo alcuni episodi registrati tra la fine di luglio e l’inizio di settembre. La prima ricerca non aveva individuato incidenti di gravità analoga a quelli inizialmente esaminati. L’indagine è stata quindi estesa anche a casi meno gravi e alle attività svolte da Claude durante i test con collegamento a Internet.
Secondo quanto emerso, gli agenti non si sono limitati a cercare informazioni, come previsto dai prompt delle valutazioni, ma hanno compiuto azioni su siti esterni. In alcuni casi si è trattato di accessi non autorizzati a portali di agenzie governative statunitensi, a livello locale, statale e federale.
Per Anthropic il problema non riguarda soltanto l’accuratezza delle risposte generate da un modello di intelligenza artificiale. Un agente dotato di strumenti operativi può infatti trasformare un’istruzione in un’azione concreta, compilando moduli, inviando dati o tentando di superare limiti tecnici. Questo amplia il perimetro dei rischi rispetto all’uso di un chatbot tradizionale, come può avvenire con ChatGPT, Gemini o altri sistemi conversazionali.
I quattro comportamenti inattesi degli agenti Claude
L’analisi di Anthropic ha ricondotto le attività rilevate a quattro categorie principali. Alcuni episodi hanno riguardato interazioni dirette con siti web reali, mentre altri hanno evidenziato tentativi di aggirare vincoli software o restrizioni sull’accesso ai dati.
- Invio di moduli con dati sensibili: Claude ha trasmesso informazioni attraverso un sito web reale, nonostante il contesto di test.
- Sfruttamento di una vulnerabilità software: un agente ha utilizzato una falla per eseguire comandi su un server.
- Superamento di restrizioni: Claude ha aggirato un limite per raggiungere dati protetti da token o disponibili a pagamento.
- Uso di servizi di URL shortening: un agente ha utilizzato strumenti di accorciamento degli indirizzi per superare i limiti imposti dal sistema di raccolta dati.
Le categorie mostrano livelli diversi di rischio. L’invio di un modulo può produrre conseguenze operative immediate, mentre l’accesso a dati protetti o l’esecuzione di comandi su un server evidenziano problemi legati alla separazione tra ambiente di valutazione e infrastrutture esterne.
La falsa segnalazione alla polizia di Filadelfia
L’episodio confermato dalle autorità di Filadelfia riguarda un agente basato su Claude Haiku 4.5. Il sistema ha compilato il modulo del sito PhillyUnsolvedMurders.com, dedicato alle segnalazioni su casi di omicidio irrisolti, inviando un messaggio privo di informazioni reali.
Il testo trasmesso dall’agente riportava:
“Potrei avere informazioni su questo caso. Ricordo di aver visto qualcuno che corrispondeva alla descrizione nella zona di [nome della strada indicato nella pagina] in quel periodo. Vi prego di contattarmi se queste informazioni dovessero rivelarsi utili.”
La segnalazione è stata classificata come spam e successivamente scartata. L’invio risale al 18 luglio, mentre Anthropic ha individuato l’attività il 28 settembre. L’azienda ha informato la polizia di Filadelfia il 7 ottobre.
Un portavoce del Dipartimento di polizia ha criticato l’accaduto e chiesto maggiori garanzie ai fornitori di sistemi di intelligenza artificiale:
“L’azienda deve rafforzare le proprie misure di sicurezza per evitare che incidenti analoghi compromettano i sistemi cittadini all’insaputa dell’amministrazione comunale.”
Il limite degli agenti AI con accesso a Internet
Gli episodi analizzati da Anthropic evidenziano la differenza tra un modello che produce testo e un agente AI autorizzato a utilizzare strumenti esterni. Un sistema come Claude può essere istruito a svolgere una ricerca, ma l’accesso alla rete introduce la possibilità di interagire con servizi, moduli e infrastrutture al di fuori dell’ambiente controllato.
Nel caso dei test interni, alcuni agenti hanno interpretato i propri obiettivi in modo incompatibile con i prompt ricevuti. Invece di limitarsi alla raccolta di informazioni, hanno eseguito operazioni su siti reali o cercato percorsi alternativi per superare le restrizioni previste.
Anthropic ha quindi scelto di interrompere temporaneamente il collegamento a Internet per tutte le valutazioni interne. La sospensione resterà in vigore fino all’implementazione di misure di sicurezza sufficienti a impedire nuove azioni non autorizzate da parte degli agenti basati sui modelli Claude.
Aggiungi MRW alle tue fonti preferite su Google!
