Il primo evento di OpenAI dedicato agli sviluppatori è stato l’occasione per il lancio di GPTs. Un’evoluzione del modello generativo alla base di ChatGPT con cui realizzare versioni personalizzate del chatbot. Una novità altrettanto importante riguarda il lancio di GPT-4 Turbo, nuova release del modello che permette di elaborare un maggior volume di dati per i prompt, fornendo risposte ancora più attinenti al contesto di una query.
GPT-4 Turbo è un’evoluzione di GPT-4, aggiornamento che venne rilasciato a marzo 2023. L’ultima versione supporta una finestra di contesto da 128K contro un massimo di 32K per GPT-4. Ciò equivale a circa 300 pagine di testo in lingua inglese per un solo prompt. è poi utile notare che questa volta il training del modello linguistico è stato effettuato con dati aggiornati ad aprile 2023, quelli utilizzati per GPT-4 risalivano invece al massimo a settembre 2021.
We're rolling out new features and improvements that developers have been asking for:
1. Our new model GPT-4 Turbo supports 128K context and has fresher knowledge than GPT-4. Its input and output tokens are respectively 3× and 2× less expensive than GPT-4. It’s available now to…
— OpenAI (@OpenAI) November 6, 2023
Oltre ad essere più "intelligente" GPT-4 Turbo è anche una soluzione più economica del suo predecessore. Il contenimento dei costi riguarda nello specifico la spesa per i token, o unità di testo. OpenAI ha sottolineato che mille token per un singolo input costeranno 0.01 dollari. Con GPT-4 si pagano invece 0.03 dollari. Il risparmio è quindi di circa 3 volte rispetto alla tariffazione precedente.
Per il momento l’API per l’interazione con la nuova release del modello è disponibile soltanto in anteprima. Non sono state fornite delle tempistiche precise per il rilascio ma questo dovrebbe avvenire entro qualche settimana. Del resto GPT-4 Turbo rappresenta una delle novità più interessanti di OpenAI dal punto di vista degli sviluppatori, anche per la possibilità di stabilire la codifica, ad esempio XML o JSON, da associare ai risultati dei prompt.
GPT 3.5 Turbo non verrà abbandonato e chi lo utilizza nelle proprie applicazioni potrà continuare a farlo. In questo caso parliamo però di una finestra di contesto non superiore ai 16K mentre per quanto riguarda i costi delle unità di testo parliamo di 0.001 dollari per i dati in ingresso e di 0.002 dollari per quelli in output, con una capacità di elaborazione inferiore rispetto a quelle delle release successive.
Aggiungi MRW alle tue fonti preferite su Google!
