Secondo un’indagine di SentinelLABS e Censys, le implementazioni di AI open source stanno diventando una potenziale bomba a orologeria per la sicurezza informatica. I ricercatori hanno analizzato la distribuzione di Ollama, una piattaforma che consente di eseguire modelli linguistici localmente, e hanno scoperto oltre 175.000 istanze esposte pubblicamente su Internet in 130 paesi.
Ollama e le vulnerabilità della “monocultura AI”
La maggior parte delle installazioni individuate utilizza modelli come Llama, Qwen2 e Gemma2, configurati in modo quasi identico e con scelte di compressione e packaging comuni. Questa omogeneità, definita dai ricercatori come AI monoculture, amplifica il rischio di un attacco su larga scala. Una singola vulnerabilità in un modello quantizzato o nel modo in cui gestisce i token potrebbe compromettere migliaia di sistemi.
Ancora più preoccupante è il fatto che molte istanze esposte includono API con capacità di tool-calling, funzionalità di visione e template di prompt privi di filtri di sicurezza. Ciò le rende vulnerabili a esecuzioni remote, furti di risorse o reindirizzamento malevolo del traffico. Questo perché tali implementazioni non sono gestite da singole aziende, spesso non vengono monitorate e aumenta la probabilità che degli exploit restino inosservati per lunghi periodi.
L’AI open source va trattata come un’infrastruttura critica
Gli esperti di SentinelLABS e Censys sottolineano che gli LLM devono essere protetti come qualsiasi altra infrastruttura critica. Questo significa adottare autenticazione robusta, monitoraggio costante e controlli di rete per ogni endpoint AI esposto.
L’assenza di standard di sicurezza comuni e di governance per i modelli open source lascia spazio ad abusi. Come per esempio l’esecuzione remota di codice, l’hijacking delle risorse e il mascheramento d’identità tramite le infrastrutture compromesse.
La libertà e la trasparenza dell’open source sono un valore fondamentale. La loro combinazione con i modelli di AI può però generare nuovi rischi se non accompagnata da dei controlli adeguati.
Per restare sempre aggiornato seguici su Google News!
