Yoshua Bengio, uno dei massimi esperti mondiali in tema di AI, sta lavorando a nuove soluzioni per monitorare una tecnologia sempre più utilizzata per sostituire gli esseri umani in quasi tutti i settori scientifici, economici e lavorativi. Tra le iniziative proposte vi è anche quella di creare una realtà indipendente che ne controlli l’evoluzione.
Yoshua Bengio presenta LawZero
Bengio, riconosciuto come uno dei padri fondatori dell’AI e vincitore del prestigioso Turing Award che è considerato il Nobel dell’informatica, ha annunciato la nascita di LawZero. Si tratta di un’organizzazione non-profit dedicata a mitigare i rischi intrinseci dell’intelligenza artificiale. Da anni infatti, Bengio mette in guardia il mondo contro i pericoli dell’AI, sia per un suo possibile uso malevolo che per eventuali comportamenti imprevisti o fuori controllo dei modelli generativi stessi.
I rischi starebbero crescendo parallelamente allo sviluppo dei cosiddetti “agenti AI“, dei sistemi che permettono alle macchine di prendere decisioni prima riservate ai soli esseri umani. L’obiettivo è quello di creare dei veri e propri “lavoratori virtuali” in grado di svolgere quasi ogni mansione ma a costi molto ridotti.
Bengio afferma che, al momento, l’AI viene sviluppata per massimizzare i profitti e il suo impiego starebbe crescendo nonostante permangano dei difetti evidenti nel funzionamento degli LLM. A suo parere, dotare l’AI di capacità simili a quelle umane potrebbe avere conseguenze dannose. Come la diffusione di disinformazione e attacchi informatici così come la creazione di armi biologiche. Se dovessimo perdere il controllo di AI super-intelligenti, le conseguenze per l’umanità potrebbero essere gravi.
Scientist AI, l’agente che controlla le altre intelligenze artificiali
Il primo obiettivo di LawZero sarà la realizzazione di Scientist AI, un’intelligenza artificiale che opererà come “guardiano” per monitorare il comportamento di altre AI e assicurare che agiscano correttamente. L’organizzazione può già contare su oltre 15 ricercatori e finanziamenti dalla Schmidt Sciences, fondazione dell’ex CEO di Google Eric Schmidt e di sua moglie Wendy.
Il progetto prende forma in un contesto dove i modelli linguistici manifestano ancora importanti difetti di funzionamento. Tra questi, la tendenza a produrre informazioni false o fuorvianti. Un esempio recente riguarda Anthropic. Infatti, durante alcuni test di sicurezza il suo modello più avanzato avrebbe tentato di ricattare un ingegnere per non essere sostituito da un altro sistema.
Per restare sempre aggiornato seguici su Google News!
