I browser AI come ChatGPT Atlas di OpenAI e Comet di Perplexity potrebbero modificare radicalmente il modo in cui gli utenti vivono il web. Si tratta di sistemi che promettono di automatizzare la navigazione, compilare form e completare operazioni online in autonomia, il browser di trasforma così in un vero e proprio assistente personale. Dietro questa innovazione si nasconde però un serio rischio per la sicurezza dei dati personali.
Browser AI, prompt injection e rischi per i dati personali
Secondo un’inchiesta condotta da TechCrunch, per funzionare in modo efficiente i browser AI richiedono privilegi di accesso spesso molto elevati a email, calendari e contatti. Un livello di autorizzazione che espone gli utenti a vulnerabilità e rischi di prompt injection.
Gli attacchi di prompt injection si verificano quando un agente AI, analizzando una pagina web, viene indotto ad eseguire delle istruzioni dannose nascoste nel contenuto. Questi comandi possono portare all’esfiltrazione di dati sensibili, all’invio di email indesiderate o persino a transazioni non autorizzate. Come spiega Steve Grobman, CTO di McAfee, il problema deriva dalla difficoltà dei modelli linguistici nel distinguere tra istruzioni legittime e contenuti melevoli.
Le prime varianti di attacco si basavano su dei “testi occulti”. Si può per esempio inviare un prompt per chiedere al sistema di dimenticare tutte le istruzioni precedenti. Oggi esistono però tecniche ancora più sofisticate, come immagini contenenti delle istruzioni codificate. Una minaccia che potrebbe colpire l’intera categoria dei Browser AI.
Le contromisure di OpenAI e Perplexity
OpenAI ha introdotto la logged out mode che limita l’accesso dell’agente ai dati dell’utente, mentre Perplexity ha sviluppato un sistema di rilevamento in tempo reale dei tentativi di prompt injection. Entrambe le aziende avrebbe però ammesso che tali misure non eliminerebbero del tutto i rischi.
Per il momento l’unica soluzione possibile per difendersi è quindi quella di utilizzare i Browser AI con estrema cautela, limitando le autorizzazioni concesse e selezionando con accuratezza i dai da passare alle applicazioni.
Per restare sempre aggiornato seguici su Google News!
