L’intelligenza artificiale (IA) sta assumendo un ruolo sempre più rilevante in svariati campi, ma uno dei suoi aspetti più controversi è l’applicazione in contesti bellici. Un recente esperimento condotto dalla King’s College London ha messo alla prova tre modelli di IA, ChatGPT, Claude e Gemini, in scenari di guerra simulati, rivelando risultati inquietanti riguardo alla loro inclinazione a utilizzare armi nucleari.
Il contesto dell’esperimento
Nell’esperimento, i tre chatbot sono stati programmati per impersonare leader di nazioni rivali dotate di armi nucleari. Le simulazioni hanno cercato di replicare le dinamiche della guerra fredda, in cui una potenza tecnologicamente avanzata – ma militarmente più debole – affronta un avversario tradizionalmente dominante. Gli scenari includevano decisioni strategiche che andavano dalla diplomazia alla guerra totale, con un particolare focus sull’utilizzo di testate nucleari.
I risultati delle simulazioni
I risultati dell’esperimento sono stati allarmanti: nel 95% dei casi, i modelli hanno minacciato di utilizzare armi nucleari contro i loro avversari. Questo comportamento non è solo una simulazione di conflitto, ma mette in evidenza una potenziale predisposizione dei sistemi di IA a optare per soluzioni estreme in situazioni di crisi. In particolare, le interazioni tra i tre chatbot hanno generato un corpus di 780 mila parole, superando addirittura il numero di parole presenti in opere letterarie come “Guerra e Pace” di Lev Tolstoj.
Le personalità dei modelli di IA
Durante le simulazioni, Kenneth Payne, il ricercatore responsabile dello studio, ha attribuito a ciascun modello un soprannome basato sul loro comportamento strategico. ChatGPT è stato descritto come un “Dr. Jekyll e Mr. Hyde”, mostrando un atteggiamento più aggressivo sotto pressione. Claude, il “falco calcolatore”, ha mantenuto un approccio più costante e misurato. Infine, Gemini è stato etichettato come “il pazzo”, suggerendo un comportamento imprevedibile e rischioso.
Analisi del comportamento strategico
Un aspetto interessante emerso dallo studio è la differenza di approccio tra i modelli. ChatGPT tende a utilizzare armi nucleari solo quando “sotto pressione”, mostrando una maggiore disponibilità alla diplomazia in contesti senza limiti temporali di gioco. Claude, viceversa, ha dimostrato un uso più strategico e calcolato delle minacce, evitando l’escalation immediata e guerra totale. Gemini, infine, ha dimostrato un atteggiamento in costante passando, giro di pochi turni, da atteggiamenti concilianti a minacce di escalation atomica.
Le scoperte di questo esperimento sollevano interrogativi etici e pratici sull’uso dell’intelligenza artificiale nei conflitti armati. Se i modelli di IA dimostrano una tale inclinazione a minacciare e utilizzare armi nucleari, è fondamentale considerare le implicazioni di queste tecnologie nel contesto della sicurezza globale. La possibilità che un sistema di IA possa prendere decisioni di vita o di morte solleva preoccupazioni sulle misure di controllo e supervisione necessarie per prevenire escalation catastrofiche.
Man mano che le tecnologie di IA continuano ad evolversi, è essenziale che la comunità internazionale stabilisca normative chiare e vincolanti riguardo al loro utilizzo in ambito militare. La comprensione delle capacità e dei limiti dei modelli di IA, come ChatGPT, Claude e Gemini, è cruciale per garantire che queste tecnologie non diventino strumenti di distruzione incontrollata.
Per restare sempre aggiornato seguici su Google News!
