Google ha recentemente annunciato una significativa evoluzione nel campo dell’intelligenza artificiale con il lancio dei nuovi chip TPU 8t e TPU 8i. Questi avanzati chip sono stati progettati per soddisfare le crescenti esigenze di potenza di calcolo necessarie per l’addestramento e l’inferenza dei modelli di AI nell’era degli agenti. Durante l’evento Cloud Next, l’azienda ha messo in evidenza come questi chip possano migliorare notevolmente le performance rispetto alla generazione precedente.
Innovazione nei chip TPU: TPU 8t e TPU 8i
I nuovi chip TPU 8t e TPU 8i rappresentano la punta di diamante della tecnologia AI di Google. Il TPU 8t è dedicato all’addestramento dei modelli e offre prestazioni senza precedenti. Un singolo superpod, che è un’architettura di calcolo ad alte prestazioni, può integrare fino a 9.600 chip, raggiungendo una potenza totale di 121 ExaFlops. Questo è circa quattro volte superiore rispetto al modello precedente, Ironwood.
Inoltre, la larghezza di banda interchip è stata raddoppiata, passando da 9,6 a 19,2 Tb/s, mentre la larghezza di banda della rete ha raggiunto i 400 Gb/s, quattro volte maggiore rispetto alla generazione precedente. Queste caratteristiche rendono il TPU 8t un componente essenziale per l’addestramento di modelli complessi e per gestire flussi di lavoro sempre più intensivi.
TPU 8i: Ottimizzazione per l’inferenza
Il TPU 8i si distingue per la sua specializzazione nell’inferenza dei modelli AI. Questo chip è progettato per garantire risposte rapide alle query degli utenti, un aspetto cruciale per le applicazioni in tempo reale. Ogni chip TPU 8i è abbinato a 288 GB di HBM (High Bandwidth Memory) e 384 MB di SRAM, quantità che è tripla rispetto alla generazione precedente. Un superpod può ospitare fino a 1.152 chip, permettendo così di gestire richieste parallele con un’efficienza mai vista prima.
Efficienza energetica e prestazioni superiori
Google ha investito notevolmente anche nell’efficienza energetica. Con una gestione integrata dell’alimentazione, i chip TPU 8t e TPU 8i possono regolare dinamicamente il consumo energetico in base alla domanda in tempo reale. Questo porta a una prestazione per Watt fino a due volte superiore rispetto alla generazione Ironwood, un aspetto fondamentale in un’era in cui la sostenibilità energetica è sempre più importante.
Per restare sempre aggiornato seguici su Google News!
