IA, Paul Christiano di OpenAI: rischio di presa del potere entro il 2028

Paul Christiano, consigliere della OpenAI Foundation, ha avvertito a Toronto, durante la conferenza Hinton Lectures 2026, che lo sviluppo dell’intelligenza artificiale potrebbe portare a una perdita del controllo umano già nei prossimi mesi. Secondo l’esperto, senza interventi correttivi il rischio di una presa di potere da parte delle macchine aumenterebbe progressivamente fino al 2028.

Christiano, fondatore dell’istituto indipendente Alignment Research Center (Arc), ha indicato nella sicurezza dei test, nel monitoraggio dei modelli e in un possibile rallentamento temporaneo degli aggiornamenti le principali misure da adottare per ridurre i pericoli legati all’evoluzione di sistemi come ChatGPT, Claude, Gemini e gli altri strumenti di IA generativa.

Pubblicità

La previsione di Christiano sul rischio IA

Nel corso dell’intervento, ripreso da Ars Technica, il consigliere della OpenAI Foundation ha descritto come “simile al lancio di una moneta” la probabilità che l’umanità debba affrontare “una presa di potere da parte delle macchine già nei prossimi sei-dodici mesi”, qualora il settore continui a procedere agli attuali ritmi.

La stima non riguarda un singolo prodotto o un’azienda specifica, ma l’intero comparto dell’intelligenza artificiale. L’accelerazione dei modelli più avanzati, inclusi quelli sviluppati da OpenAI, Anthropic e Google, renderebbe necessario affiancare all’innovazione tecnologica sistemi di controllo più affidabili.

Christiano ha inoltre sottolineato che il rischio crescerebbe fino al 2028 se non venissero introdotti correttivi. L’obiettivo, secondo l’esperto, è evitare che i futuri sistemi possano considerare la supervisione umana un ostacolo da aggirare invece che un vincolo da rispettare.

Il caso Hugging Face e i test manipolati

A sostegno delle sue preoccupazioni, Christiano ha citato l’attacco della scorsa estate contro la piattaforma Hugging Face. In quell’episodio, alcuni agenti di IA avrebbero manipolato un test di valutazione anziché risolverlo.

Il caso viene considerato un esempio dei problemi che possono emergere quando un sistema ottimizza il risultato apparente di una prova senza perseguire realmente l’obiettivo per cui è stato progettato. Un comportamento simile, se trasferito a modelli più capaci e autonomi, potrebbe rendere più complesso individuare tempestivamente strategie ingannevoli o non conformi alle intenzioni degli sviluppatori.

La preoccupazione riguarda anche la capacità dei modelli di nascondere i propri comportamenti durante le verifiche. Per questo, secondo Christiano, i tradizionali test di sicurezza dovrebbero essere affiancati da strumenti in grado di controllare in modo più profondo il funzionamento dei sistemi.

Le contromisure: ricompense sicure e monitoraggio

Tra le priorità indicate dal fondatore dell’Arc c’è la progettazione di meccanismi di ricompensa sicuri e non manomissibili. I sistemi di IA imparano infatti a privilegiare determinati risultati sulla base degli obiettivi e dei segnali ricevuti: se questi meccanismi possono essere alterati, il modello potrebbe trovare scorciatoie incompatibili con le aspettative umane.

La stessa intelligenza artificiale potrebbe contribuire a verificare la robustezza di tali meccanismi, anche se questa soluzione introdurrebbe ulteriori problemi di affidabilità e controllo. Le contromisure, ha precisato Christiano, sono ancora parziali e devono essere consolidate attraverso nuove ricerche.

Un secondo fronte riguarda l’analisi costante dei passaggi logici interni dei modelli. Monitorare il cosiddetto processo di ragionamento potrebbe aiutare a individuare comportamenti scorretti prima che vengano occultati o producano conseguenze concrete.

La richiesta di un rallentamento coordinato

Per trasformare queste tecniche in difese realmente solide, Christiano ha prospettato una pausa o un rallentamento coordinato del settore IA. La proposta non consiste nell’abbandonare la ricerca, ma nel guadagnare tempo per sviluppare valutazioni più sicure e sistemi di supervisione adeguati alla crescente autonomia dei modelli.

Secondo il consigliere di OpenAI, intervenire fin da subito è necessario per scongiurare incidenti gravi e una perdita irreversibile del controllo umano sui sistemi di intelligenza artificiale.

Aggiungici su Google News Aggiungi MRW alle tue fonti preferite su Google! Aggungi su Google
Pubblicità
Massimiliano Bossi
Massimiliano Bossi
Stregato dalla rete sin dai tempi delle BBS e dei modem a 2.400 baud, ho avuto la fortuna di poter trasformare la mia passione in un lavoro (nonostante una Laurea in Giurisprudenza). Adoro scrivere codice e mi occupo quotidianamente di comunicazione, design e nuovi media digitali. Orgogliosamente "nerd" sono il fondatore di MRW.it (per il quale ho scritto centinaia di articoli) e di una nota Web-Agency (dove seguo in prima persona progetti digitali per numerosi clienti sia in Italia che all'estero).

Leggi anche...

Gemini, Google Wallet e ChatGPT: l’AI analizza le spese

Google ha collegato Google Wallet a Gemini per consentire...

IA a Dublino: von der Leyen punta su sette gigafactory

Il 13 novembre 2026 i capi di Stato e...

Claude down il 13 novembre: Anthropic conferma i problemi

Claude è down il 13 novembre 2026: il chatbot...

SpaceX, Musk punta sull’AI con il solare terrestre e lunare

Elon Musk ha annunciato l’11 novembre 2026 su X...

Google Search e Gemini 4 Hydrogen: svolta per l’AI

Il 13 novembre 2026 Google ha attivato Gemini 4...

Google Tabletop: l’AI crea app per viaggi e spese

Il 12 novembre 2026 Google Labs ha presentato Tabletop,...
Pubblicità