Andrew Barto e Richard Sutton, vincitori del Turing Award 2024, hanno espresso preoccupazione riguardo alla rapida diffusione dei modelli di intelligenza artificiale non sufficientemente testati. Secondo i due esperti, l’attuale approccio delle aziende, mirato a distribuire rapidamente i prodotti basati sulla AI, può essere paragonato a costruire un ponte e testarlo facendolo utilizzare direttamente dalle persone. Una cattiva pratica ingegneristica che espone il pubblico a rischi inutili.
I rischi delle AI non sufficientemente testate
Entrambi gli studiosi si sono detti preoccupati per le modalità di rilascio delle nuove tecnologie AI sul mercato. A loro parere, l’urgenza delle aziende nel distribuire rapidamente i modelli AI sta causando un’insufficiente verifica delle misure di sicurezza. Questo scenario aumenta i rischi associati all’uso generalizzato e non controllato dell’intelligenza artificiale. Inclusi possibili effetti negativi non previsti sulla società e sulle singole persone.
Le stesse perplessità erano state espresse da altri esperti del settore. Yoshua Bengio, Geoffrey Hinton e Sam Altman sono solo alcuni dei firmatari di una dichiarazione rilasciata nel 2023 che sottolineava come la mitigazione del rischio di estinzione legato all’AI dovesse diventare una priorità globale.
Sutton e Barto hanno criticato apertamente la tendenza di alcune aziende AI nel lanciare prodotti senza sufficienti test o misure di salvaguardia. Tali pratiche potrebbero derivare da pressioni competitive e commerciali ma la corsa all’innovazione potrebbe portare a conseguenze potenzialmente imprevedibili.
L’appello dei premi Turing
Il loro appello è quindi chiaro: occorre adottare rigorosi standard di sicurezza e procedere con una maggiore cautela nello sviluppo e nell’applicazione dell’intelligenza artificiale. L’obiettivo primario dovrebbe essere la protezione degli utenti e la gestione responsabile della tecnologia evitando rischi inutili derivanti da un uso affrettato e irresponsabile delle nuove AI.
Barto, ricercatore presso l’Università del Massachusetts, e Sutton, ex ricercatore presso DeepMind, sono stati premiati per il loro fondamentale contributo nello sviluppo dell’apprendimento per rinforzo definito da Google come pilastro del boom dell’AI. Questa tecnologia è infatti alla base di soluzioni come ChatGPT di OpenAI e AlphaGo di Google.
Per restare sempre aggiornato seguici su Google News!
