Llama 3.2 è l’ultimo modello di Intelligenza Artificiale rilasciato da Meta. Un LLM (Large Language Model) che si caratterizza in particolare per il numero di parametri utilizzati in fase di training nelle principali varianti distribuite dalla compagnia di Mark Zuckerberg e soci.
Caratteristiche di Llama 3.2
Attualmente Llama 3.2 dispone di due release principali da 11 miliardi e 90 miliardi di parametri. Le versioni precedenti si “limitavano” invece a 7 miliardi e 70 miliardi di parametri.
Il modello più grande risulterà più dispendioso in termini di risorse, e quindi anche di consumi, ma sarà in grado di fornire output ancora più accurati sia nella creazione di testi che nel riconoscimento delle immagini. Una caratteristica che lo renderebbe particolarmente adatto all’analisi dei grafici e non solo. Per proporre un esempio, Llama 3.2 potrebbe osservare il contenuto di una mappa e generare dei documenti estraendo informazioni da essa.
Per quanto riguarda il contesto, entrambe le varianti di Llama supportano fino a 128K token che potranno essere elaborati a seguito di un singolo prompt. Un maggior numero di token si dovrebbe tradurre nella capacità di elaborare input molto lunghi e complessi. Come quando si sottopone al modello un documento PDF particolarmente ricco di contenuti.
Nello stesso modo questa caratteristica dovrebbe portare ad una migliore gestione del contesto. Mantenendo in memoria più a lungo le interazioni effettuate con gli utenti.
Anche in versione “ridotta”
Insieme ai due modelli principali sono stati rilasciati anche due modelli più piccoli rispettivamente da 1 miliardo e 3 miliardi di parametri. Questi ultimi sono stati pensati in particolare per i device edge, cioè quelli destinati ad archiviare ed elaborare dati localmente prima dell’invio in remoto. Per questa ragione di tratta di due soluzioni adatte allo realizzazione di progetti dedicati agli ambiti privati.
Per gli sviluppatori è infine disponibile Llama Stack, una raccolta di modelli appositamente ottimizzati per poter essere implementati in fase di prototipazione.
