Ilya Sutskever, co-fondatore di OpenAI, ha recentemente previsto la fine dell’era del pre-addestramento per i modelli di intelligenza artificiale generativa. Egli è infatti convinto che il settore di riferimento abbia ormai raggiunto il cosiddetto “picco dei dati“.
Le parole di Sutskever sul futuro della AI
Durante il suo intervento alla conferenza NeurIPS di Vancouver, Sutskever ha paragonato la disponibilità limitata di dati su Internet alla scarsità di combustibili fossili. A suo parere l’AI deve ora affrontare una realtà in cui la crescita dell’intelligenza artificiale potrebbe essere anche illimitata ma i dati disponibili sono finiti.
Il pre-addestramento degli LLM ha permesso ai modelli di linguaggio di apprendere degli schemi da grandi quantità di dati non etichettati, nella maggior parte dei casi dei testi provenienti da Internet e dei libri. Ma con l’esaurimento di nuove fonti di dati Sutskever prevede che i futuri modelli di AI dovranno essere più “agenti” e quindi capaci di ragionare autonomamente.
Questo cambiamento implica una transizione dall’attuale riconoscimento di schemi a un’elaborazione passo-passo più simile al pensiero umano.
L’imprevedibilità delle intelligenze artificiali
Sutskever ha evidenziato che man mano che i sistemi di AI sviluppano capacità di ragionamento diventano più imprevedibili. Ha poi paragonato questa imprevedibilità a come le AI avanzate sorprendono i migliori giocatori umani nel gioco degli scacchi con delle mosse inaspettate.
Ha inoltre suggerito che l’evoluzione dell’AI potrebbe seguire degli schemi simili a quelli dell’evoluzione biologica. Con scoperte di nuovi metodi paragonabili ai salti evolutivi nello sviluppo del cervello umano.
Questa transizione solleva interrogativi etici e filosofici sulla natura degli “agenti” di AI e sulla loro coesistenza con gli esseri umani. Sutskever ha quindi incoraggiato una riflessione continua su come creare meccanismi di incentivazione per lo sviluppo dell’AI, riconoscendo l’imprevedibilità dei futuri sistemi di intelligenza artificiale e l’importanza di considerare attentamente il loro impatto sulla nostra vita.