Il 4 novembre 2026 Anthropic ha presentato FlashProve, un sistema open source progettato per dimostrare quale modello di intelligenza artificiale ha generato una determinata risposta. La tecnologia punta a impedire che un’azienda dichiari di usare un modello AI avanzato, come Claude, GPT o Gemini, mentre in realtà impiega di nascosto un sistema più economico.
Il progetto, descritto in un post sul blog del laboratorio, si basa sul concetto di “provable inference”, cioè inferenza dimostrabile. L’obiettivo è associare a ogni output una prova crittografica verificabile, senza obbligare i laboratori a rendere pubblici i pesi o i dettagli riservati del modello.
FlashProve vuole certificare l’origine delle risposte AI
Il meccanismo immaginato da Anthropic dovrebbe consentire a un soggetto esterno di controllare se una risposta arriva davvero dal modello dichiarato. La verifica non si limiterebbe quindi al contenuto prodotto da un chatbot, ma riguarderebbe l’identità del sistema che lo ha generato.
Il riferimento più immediato sono le firme crittografiche utilizzate nelle email. Una firma di questo tipo permette di verificare che un messaggio sia stato inviato dal mittente indicato e non da un soggetto che ne imita l’identità. FlashProve applica un principio analogo ai modelli di AI: l’output dovrebbe includere una garanzia matematica riconducibile al modello corretto.
In un mercato popolato da servizi e modelli differenti, la distinzione potrebbe avere un peso rilevante. Un’azienda potrebbe infatti pubblicizzare l’utilizzo di un determinato sistema, per esempio un modello proprietario di Anthropic o OpenAI, ma instradare parte delle richieste verso un’alternativa meno costosa. Senza uno strumento di verifica, per il cliente sarebbe difficile accertare quale modello abbia elaborato davvero la risposta.
Il rischio della sostituzione nascosta del modello
Secondo i ricercatori, FlashProve è pensato anche per scoraggiare comportamenti opposti. Un’azienda potrebbe utilizzare un modello più potente di quello dichiarato per ottenere risultati migliori in una valutazione, in un test comparativo o in una dimostrazione commerciale.
Il sistema servirebbe quindi a contrastare entrambe le forme di ambiguità: l’impiego di un modello più economico rispetto a quello promesso e l’utilizzo di un modello più avanzato per presentare prestazioni non realmente attribuibili alla soluzione pubblicizzata.
Il possibile “impostore”, inoltre, non sarebbe necessariamente un fornitore esterno o un integratore. La sostituzione potrebbe essere effettuata anche dallo stesso laboratorio che sviluppa e gestisce il modello. Una certificazione crittografica indipendente avrebbe proprio lo scopo di rendere verificabile il comportamento del gestore, riducendo la necessità di affidarsi soltanto alle sue dichiarazioni.
La questione riguarda potenzialmente l’intero ecosistema dell’AI generativa. Oltre a Claude di Anthropic, il principio potrebbe interessare servizi basati su ChatGPT e GPT di OpenAI, Gemini di Google, Perplexity e altri sistemi commerciali o open source. La fonte, tuttavia, non indica un’adozione già avviata da parte di questi operatori.
Una fingerprint senza rivelare i pesi del modello
Il funzionamento di FlashProve prevede che il laboratorio pubblichi una fingerprint, ovvero un’impronta digitale associata a ciascun modello rilasciato. Questa informazione può essere confrontata con gli output e verificata attraverso strumenti crittografici.
L’impronta non dovrebbe esporre i pesi del modello. Si tratta dei valori numerici interni che contribuiscono a determinare il comportamento di un sistema AI e che rappresentano uno degli elementi più sensibili per i laboratori che sviluppano modelli proprietari.
La distinzione è centrale per aziende come Anthropic e OpenAI, che mantengono riservati i propri pesi. Pubblicare una fingerprint permetterebbe di offrire un metodo di controllo senza rendere disponibile la “ricetta” del modello. In questo modo, secondo la descrizione del progetto, il meccanismo potrebbe essere applicato anche a servizi commerciali e non soltanto a modelli completamente aperti.
Anthropic indica inoltre che la verifica è stata concepita per essere relativamente leggera. Il controllo della prova potrebbe essere eseguito anche localmente, su un dispositivo dell’utente o dell’organizzazione che vuole controllare l’origine di una risposta.
Il progetto è ancora in fase di ricerca
FlashProve non è stato presentato come un prodotto pronto per la distribuzione. Anthropic ha pubblicato una specifica tecnica dettagliata e il codice funzionante di diverse componenti su GitHub, con licenza open source, ma il sistema resta un progetto in evoluzione.
I ricercatori descrivono il materiale come un avanzamento intermedio e non come il risultato definitivo di un programma già concluso. Non è stato annunciato un piano per portare FlashProve in produzione né una data per l’integrazione del sistema nei servizi di Anthropic o in altri strumenti di AI.
La pubblicazione ha anche un obiettivo collaborativo: rendere disponibili l’architettura e il codice affinché altri ricercatori possano esaminarli, individuare eventuali limiti e contribuire a migliorarli. Per ora, dunque, la possibilità di dimostrare in modo crittografico quale modello abbia scritto una risposta resta affidata a una tecnologia open source ancora in fase di sviluppo.
Aggiungi MRW alle tue fonti preferite su Google!
