Geoffrey Hinton: “Forse meglio senza IA”, allarme per l’AI
Geoffrey Hinton, informatico e premio Nobel considerato tra i padri fondatori dell’intelligenza artificiale, ha avvertito in un’intervista al quotidiano britannico The Guardian che l’umanità potrebbe trovarsi ad affrontare un grave incidente causato dall’IA già entro la fine di quest’anno o nel prossimo. Tra gli scenari evocati figurano un blackout parziale delle reti elettriche e il blocco temporaneo dei sistemi finanziari.
Hinton, 78 anni, non ha descritto l’intelligenza artificiale come una tecnologia necessariamente destinata al fallimento. Al contrario, ha riconosciuto che potrebbe condurre a un futuro positivo. Il suo intervento si concentra però sulla difficoltà di controllare sistemi sempre più potenti e autonomi, soprattutto quando vengono integrati in infrastrutture essenziali.
Hinton teme un incidente su larga scala legato all’IA
Secondo l’informatico, un evento di grande impatto potrebbe verificarsi in tempi molto più brevi rispetto alle previsioni più prudenti. Hinton ha ipotizzato che un attacco basato sull’intelligenza artificiale possa colpire la produzione di energia elettrica e provocare un massiccio blackout parziale.
Un altro scenario riguarda il settore finanziario: un malfunzionamento o un attacco coordinato potrebbe mandare in tilt i sistemi per una settimana. Anche se un simile incidente sarebbe tecnicamente reversibile, le conseguenze economiche e sociali potrebbero essere rilevanti, soprattutto per la dipendenza quotidiana da reti digitali e servizi automatizzati.
“Entro la fine di quest’anno o il prossimo, assisteremo a un evento del tipo di Chernobyl; potrebbe bastare a far sì che la gente presti davvero attenzione”, ha dichiarato Geoffrey Hinton a The Guardian.
Il riferimento alla centrale di Chernobyl descrive, nelle parole di Hinton, un incidente capace di rendere evidente al grande pubblico la dimensione dei rischi legati all’IA. L’obiettivo del paragone non è indicare una dinamica identica a quella di un disastro nucleare, ma sottolineare la possibilità di un evento con un forte impatto collettivo e istituzionale.
Dal futuro promettente alla possibilità di non averla sviluppata
Pur definendosi non “catastrofista”, Hinton ha espresso un giudizio particolarmente severo sul percorso seguito dalla tecnologia. Guardando allo sviluppo dell’IA con il senno di poi, ha detto che forse per l’umanità sarebbe stato meglio non averla mai creata.
“Potrebbe darsi che, per noi, sarebbe stato meglio non svilupparla affatto”, ha affermato Hinton.
La dichiarazione non cancella il riconoscimento delle potenzialità dell’AI. L’informatico ritiene infatti possibile anche un “futuro meraviglioso”, nel quale i sistemi di intelligenza artificiale possano produrre benefici significativi. Il problema, secondo la sua analisi, è che lo stesso progresso potrebbe generare conseguenze difficili da gestire se la sicurezza non procedesse allo stesso ritmo dell’innovazione.
Il dibattito riguarda oggi strumenti e modelli generativi sempre più diffusi, da ChatGPT ai sistemi sviluppati da OpenAI, Anthropic e Google, come Claude e Gemini. Nomi e prodotti diversi fanno parte di una competizione tecnologica più ampia, nella quale la velocità di sviluppo dell’IA è diventata un fattore centrale per aziende e investitori.
Disuguaglianze, disoccupazione e disgregazione sociale
L’orizzonte indicato da Hinton non si limita agli incidenti informatici. A suo giudizio, entro un decennio, forse anche prima, l’umanità capirà se sarà in grado di governare i rischi associati alla tecnologia oppure no.
Nel secondo scenario, l’espansione dell’IA potrebbe accentuare il divario tra ricchi e poveri, provocare gravi problemi culturali e alimentare una fase di disoccupazione di massa. Hinton ha collegato questi elementi al rischio di una progressiva disgregazione della società.
La preoccupazione riguarda in particolare la distribuzione dei vantaggi economici prodotti dall’automazione. Se i benefici restassero concentrati nelle mani di pochi soggetti, mentre una parte crescente dei lavoratori perdesse occupazione o potere contrattuale, l’intelligenza artificiale potrebbe trasformarsi da strumento di progresso in una fonte di instabilità.
Nel ragionamento di Hinton, il punto decisivo non è soltanto quanto saranno capaci i modelli GPT o gli altri sistemi di IA, ma chi ne controllerà lo sviluppo e con quali limiti. La questione coinvolge anche i sistemi autonomi, gli agenti software e le applicazioni in grado di operare senza una supervisione umana costante.
Le critiche ai vertici delle aziende tecnologiche
Hinton ha rivolto parole dure anche ai leader di alcune delle principali aziende tecnologiche. A suo giudizio, figure come Mark Zuckerberg, Elon Musk e Sam Altman comprenderebbero i rischi associati all’intelligenza artificiale, ma non agirebbero con sufficiente prudenza.
“Credo che Zuckerberg, Musk e Sam Altman comprendano i rischi, ma se ne fregano altamente. Preferiscono i soldi. Questa è la mia opinione”, ha detto Hinton.
L’accusa riguarda il rapporto tra la necessità di investire nella sicurezza e la pressione commerciale che spinge le aziende a introdurre rapidamente nuovi prodotti e funzioni. La competizione tra piattaforme di IA, assistenti digitali e motori di ricerca basati su modelli generativi, inclusi servizi come Perplexity, alimenta una corsa nella quale ogni ritardo può tradursi in una perdita di mercato.
Hinton ha inoltre paragonato alcuni episodi di violazione della sicurezza informatica, attribuiti durante l’estate a un sistema di agenti di intelligenza artificiale, all’incidente nucleare di Three Mile Island del 1979. A suo giudizio, un episodio più grave potrebbe essere necessario perché istituzioni, aziende e opinione pubblica prendano pienamente coscienza dei rischi.
Aggiungi MRW alle tue fonti preferite su Google!
