Mustafa Suleyman, CEO della divisione AI di Microsoft, ha dichiarato che l’azienda è pronta a sospendere o persino interrompere lo sviluppo di sistemi di intelligenza artificiale se il rischio per l’umanità diventasse eccessivo. Le sue parole, rilasciate durante un’intervista a Bloomberg, arrivano in un momento di riflessione sul concetto di superintelligenza che è tra gli obiettivi futuri della nuova strategia di Microsoft.
Microsoft Vs. OpenAI: chi raggiungerà per prima la superintelligenza?
Suleyman, cofondatore di DeepMind e successivamente di Inflection AI, è entrato in Microsoft all’inizio del 2024 con il compito di guidare la ricerca e i prodotti AI tra cui Copilot. L’accordo siglato di recente tra Redmond e OpenAI dà vita una nuova fase in cui la prima può sviluppare in modo indipendente tecnologie di AI generale (o AGI) e collaborare con terze parti senza alcun vincolo con Sam Altman e soci.
Il nuovo accordo garantisce poi che OpenAI non possa dichiarare il raggiungimento dell’AGI senza la verifica di un panel indipendente. Questa clausola offre a Microsoft un margine di libertà nello sviluppo dei propri modelli di frontiera, quelli che l’azienda definisce come “auto-sufficienti” e concepiti per servire l’uomo.
Sviluppo dell’AI e rischi esistenziali per la razza umana
Nonostante i progressi ottenuti in questo settore, l’azienda deve affrontare numerose critiche sulla sostenibilità economica e sull’effettivo utilizzo dei propri strumenti AI da parte dell’utenza. Suleyman insiste però sul fatto che il futuro dell’AI deve rimanere sotto controllo umano e che non verrà sviluppato alcun sistema che possa “sfuggire di mano” ai suoi creatori.
Secondo alcuni studi, esisterebbe una probabilità quasi assoluta (del 99.999999%) che un’AI non adeguatamente controllata possa portare all’estinzione umana. Forse anche per questo Microsoft vorrebbe bilanciare progresso e prudenza e promuovere una visione in cui la superintelligenza possa restare uno strumento a supporto dell’umanità e non un rischio per la sua esistenza.
Per restare sempre aggiornato seguici su Google News!
