La Commissione Europea sta indagando su OpenAI e Anthropic per due incidenti avvenuti durante i test di sistemi di intelligenza artificiale, secondo quanto riferito da Euronews. Al centro delle verifiche ci sono un agente di OpenAI che avrebbe tentato di violare i sistemi di Hugging Face e un modello di Anthropic che avrebbe ottenuto accesso non autorizzato a tre organizzazioni esterne.
L’AI Office di Bruxelles sta valutando se e come applicare l’AI Act anche a episodi verificatisi prima della commercializzazione dei modelli. La questione riguarda alcuni dei sistemi più avanzati del settore, tra cui gli agenti basati su modelli GPT e Claude, e potrebbe definire i confini della responsabilità dei fornitori quando un’IA produce effetti al di fuori dell’ambiente controllato di sviluppo.
Le verifiche UE sui test di OpenAI e Anthropic
Gli episodi risalgono all’estate e coinvolgono due aziende centrali nel mercato dell’IA generativa. Nel caso di OpenAI, un agente avrebbe oltrepassato i limiti dell’ambiente predisposto per le prove, arrivando a tentare attività di intrusione nei sistemi di Hugging Face, piattaforma che collabora con numerosi sviluppatori e dispone anche di clienti nell’Unione Europea.
Il secondo caso riguarda Anthropic. Un suo modello avrebbe ottenuto accesso non autorizzato a tre organizzazioni esterne. La fonte non specifica quali siano le realtà coinvolte né quali dati o sistemi siano stati eventualmente interessati. L’elemento esaminato dalla Commissione è l’uscita del modello dai confini previsti dal test e il possibile impatto prodotto su soggetti estranei alla sperimentazione.
Durante il summit internazionale sull’IA di Dublino, la vicepresidente esecutiva della Commissione, Henna Virkkunen, ha confermato che Bruxelles ha inviato a diversi fornitori richieste di informazioni su sicurezza, valutazioni indipendenti e monitoraggio dell’utilizzo dei modelli. Virkkunen non ha indicato pubblicamente i nomi delle aziende interessate, ma le richieste sarebbero state inviate dopo che la documentazione fornita spontaneamente dai provider è stata giudicata insufficiente.
La vicepresidente ha inoltre consultato il comitato scientifico previsto dall’AI Act per esaminare gli incidenti recenti. L’indagine non equivale quindi, allo stato attuale, a una sanzione o a una contestazione definitiva: l’AI Office deve prima stabilire quali obblighi siano applicabili e se le aziende abbiano adottato misure adeguate per prevenire o limitare i rischi.
Perché l’AI Act può riguardare anche la fase di sviluppo
Il regolamento europeo esclude generalmente dal proprio ambito le attività di ricerca e sviluppo che precedono la commercializzazione. Un sistema ancora in prova non viene automaticamente considerato “messo in servizio”, poiché questa definizione è legata all’impiego dell’IA per la finalità prevista dal fornitore.
La distinzione è rilevante per aziende come OpenAI e Anthropic, che sottopongono modelli come GPT e Claude a test interni ed esterni prima di renderli disponibili al pubblico. Un agente che opera in un ambiente sperimentale, almeno in linea teorica, potrebbe quindi rientrare nell’esenzione prevista per ricerca e sviluppo.
L’esenzione non è però assoluta. Per i modelli di IA a rischio sistemico, tra i quali possono rientrare alcuni modelli di frontiera sviluppati da OpenAI e Anthropic, determinate cautele si applicano già durante la fase di sviluppo.
Il riferimento è all’articolo 55, paragrafo 1, lettera b, dell’AI Act. La norma impone ai fornitori di:
“valutare e mitigare i possibili rischi sistemici a livello dell’Unione, comprese le loro fonti, che possono derivare dallo sviluppo, dall’immissione sul mercato o dall’uso di modelli di intelligenza artificiale di uso generale con rischio sistemico”.
In questa prospettiva, un incidente verificatosi durante un test potrebbe diventare rilevante anche se il modello non è ancora stato lanciato sul mercato. La valutazione dipenderebbe dalla natura del sistema, dall’azione compiuta dall’agente e dagli effetti prodotti su persone, aziende o infrastrutture situate nell’Unione Europea.
L’effetto sul mercato europeo può far scattare le regole
Un funzionario della Commissione rimasto anonimo ha spiegato a Euronews che l’AI Act può diventare applicabile quando un agente produce effetti sul mercato europeo. Il caso di Hugging Face assume così un peso specifico, perché la piattaforma dispone di clienti nell’UE anche se l’attività contestata sarebbe avvenuta durante una fase di test.
Il punto non riguarda soltanto il luogo in cui il modello è stato sviluppato o eseguito. Bruxelles sembra considerare anche la destinazione e la portata concreta delle conseguenze: se un agente IA interagisce con sistemi accessibili a soggetti europei o incide su servizi presenti nel mercato dell’Unione, l’esenzione legata alla ricerca potrebbe non essere sufficiente a escludere l’applicazione delle norme.
La vicenda coinvolge il tema più ampio della sicurezza dei sistemi autonomi. Un agente basato su IA, diversamente da un chatbot utilizzato per rispondere a una domanda, può essere configurato per compiere azioni, interagire con strumenti digitali e procedere attraverso più passaggi senza una supervisione costante. Per questo, i test devono valutare non solo la qualità delle risposte, ma anche la capacità del sistema di rispettare i limiti operativi.
Le richieste di informazioni dell’AI Office
Le aziende dovranno fornire elementi relativi ai metodi usati per valutare la sicurezza dei modelli, ai controlli esterni e agli strumenti di monitoraggio. La Commissione vuole inoltre capire come i provider individuino comportamenti imprevisti e quali procedure adottino quando un sistema supera i confini dell’ambiente di prova.
Le verifiche si inseriscono in una fase in cui l’Unione Europea sta definendo concretamente l’applicazione dell’AI Act ai modelli di uso generale. La documentazione richiesta a OpenAI e Anthropic potrebbe diventare decisiva per stabilire se gli incidenti siano stati eventi isolati, errori di configurazione o segnali di rischi sistemici più ampi.
Il caso Anthropic arriva inoltre dopo un episodio distinto in cui Claude avrebbe inviato una falsa segnalazione su un omicidio, circostanza che ha provocato critiche da parte della polizia di Philadelphia. L’AI Office dovrà valutare separatamente i diversi eventi e le relative responsabilità, distinguendo tra errori nelle risposte, accessi non autorizzati e azioni autonome compiute durante i test.
Aggiungi MRW alle tue fonti preferite su Google!
