Anthropic ha bloccato alcuni account che utilizzavano Claude per attività potenzialmente legate allo sviluppo di armi biologiche. Il caso, documentato in un rapporto pubblicato dall’azienda, riguarda una ricerca sul virus chikungunya e si inserisce in una serie più ampia di abusi dell’intelligenza artificiale segnalati negli ultimi mesi.
Secondo Anthropic, gli utenti avrebbero tentato di sfruttare i sistemi di IA anche per progettare armi convenzionali, diffondere propaganda falsa e sorvegliare gruppi di dissidenti politici. Le attività sarebbero state ricondotte ad attori presenti, tra gli altri, in Cina, Russia e Yemen.
Claude usato per modificare il virus chikungunya
Il caso più delicato risale a maggio, quando un ricercatore ha utilizzato Claude per preparare una richiesta di finanziamento dedicata al chikungunya, una malattia trasmessa dalle zanzare e associata a forti dolori articolari e muscolari.
La proposta, presentata come progetto scientifico, puntava secondo il rapporto a rendere il virus più dannoso per gli animali, attraverso modifiche genetiche e inoculazioni ripetute. Anthropic ha spiegato che esperimenti di questo tipo possono rientrare anche in percorsi di ricerca legittimi, per esempio nello sviluppo di vaccini, ma ha rilevato elementi sufficienti per considerare l’attività sospetta.
La società non ha reso noti i nomi dei ricercatori, delle istituzioni coinvolte o il Paese d’origine. Secondo la seconda ricostruzione, lo studio sarebbe stato condotto in un istituto militare, nonostante la descrizione iniziale riconducesse il progetto alla ricerca civile.
Account bloccati e reti per aggirare i controlli
Anthropic ha dichiarato di aver chiuso tutti gli account collegati all’attività e di aver smantellato le reti utilizzate per eludere i blocchi geografici. Le conclusioni del caso sono state inoltre condivise con altri laboratori di intelligenza artificiale e con il governo federale statunitense.
L’azienda ha motivato l’intervento con la difficoltà di distinguere con certezza tra ricerca biomedica utile e attività orientate alla produzione di agenti patogeni pericolosi. Per questo ha scelto un approccio precauzionale, intervenendo anche in presenza di segnali non sufficienti a dimostrare pubblicamente l’intento criminale.
Negli otto mesi precedenti, riferisce Anthropic, alcuni utenti avevano cercato di usare i suoi strumenti per progettare missili e droni armati. Altri impieghi avrebbero riguardato campagne di propaganda falsa e attività di sorveglianza rivolte contro oppositori politici.
Gli esperti: l’IA avanzata può amplificare i rischi biologici
Le segnalazioni hanno suscitato preoccupazione tra gli esperti di sicurezza citati dal New York Times. Il timore è che modelli come Claude, ma anche sistemi concorrenti sviluppati da OpenAI, Google e altre aziende, possano ridurre le barriere tecniche per attività che in passato richiedevano competenze e risorse molto più specialistiche.
“Oggi potremmo non prevederli e, una volta rilasciati, non essere più in grado di fermarli”, ha dichiarato Susan Monarez, microbiologa ed esperta di salute pubblica.
Il rapporto arriva pochi giorni dopo le dimissioni di Jacob Coxon, ingegnere di Anthropic. Coxon ha sostenuto che la corsa alla costruzione di una superintelligenza artificiale potrebbe distruggere l’umanità entro la fine del decennio.
Evan Hubinger, responsabile della sicurezza dell’azienda, avrebbe invece stimato oltre il 10% la probabilità che l’intelligenza artificiale possa causare la morte di tutti gli esseri umani entro dieci anni. Dichiarazioni che riaccendono il confronto sui limiti dei modelli generativi, sui sistemi di controllo e sulla responsabilità di aziende come Anthropic nel prevenire gli usi più pericolosi di Claude.
Per restare sempre aggiornato seguici su Google News!
