L’avvocato Stephen Aarons è stato multato di 5.000 dollari dopo aver utilizzato ChatGPT durante un processo, presentando informazioni che l’intelligenza artificiale avrebbe inventato, tra cui testimonianze di agenti di polizia e nomi di testimoni inesistenti. Il caso, riportato da Reuters e pubblicato il 14 settembre 2026, potrebbe inoltre portare a un’indagine da parte di una commissione disciplinare.
L’episodio riaccende l’attenzione sui rischi dell’impiego non verificato di strumenti come ChatGPT, Claude, Gemini e altri sistemi di IA generativa in ambiti nei quali l’accuratezza dei dati è essenziale. In tribunale, un errore prodotto da un modello linguistico non è una semplice imprecisione: può compromettere una difesa, alterare la valutazione dei fatti e incidere sull’affidabilità dell’intero procedimento.
ChatGPT ha generato testimonianze e testimoni inesistenti
Secondo le informazioni disponibili, Stephen Aarons si è affidato a ChatGPT per supportare la propria attività difensiva. Nel materiale prodotto dall’AI sarebbero comparsi riferimenti a false testimonianze di poliziotti, oltre a persone presentate come testimoni ma in realtà inesistenti.
Il problema rientra nel fenomeno comunemente definito “allucinazione” dell’intelligenza artificiale. In questi casi, il modello costruisce una risposta plausibile dal punto di vista linguistico, ma priva di riscontro nei fatti. ChatGPT non consulta necessariamente una banca dati ufficiale per ogni informazione fornita e può quindi associare nomi, sentenze, verbali o dichiarazioni in modo errato.
La difficoltà aumenta quando l’output è scritto con tono sicuro e con dettagli apparentemente precisi. Una citazione attribuita a un testimone, un verbale di polizia o un riferimento giudiziario possono sembrare autentici a una lettura superficiale, pur non essendo mai esistiti.
In un contesto legale, la verifica delle fonti dovrebbe precedere qualsiasi utilizzo processuale. Il semplice copia-incolla di una risposta generata da ChatGPT non può sostituire il controllo diretto degli atti, dei precedenti e dei documenti ufficiali.
La sanzione da 5.000 dollari e l’indagine disciplinare
La giudice ha inflitto ad Aarons una sanzione di 5.000 dollari. Il fascicolo dell’avvocato dovrebbe inoltre essere trasmesso a una commissione disciplinare, chiamata a valutare il comportamento e le eventuali responsabilità professionali.
L’avvocato ha riconosciuto l’accaduto e ha sostenuto di non conoscere i problemi legati alle allucinazioni dell’AI. Come riportato dalla fonte, Aarons ha dichiarato: “Mi rammarico per quanto è accaduto, ma spero che la commissione disciplinare tenga conto del fatto che si è trattato di un errore in buona fede”.
La spiegazione non ha però convinto la giudice C. Shannon Bacon. Durante l’udienza, la magistrata ha evidenziato quanto il tema dell’uso scorretto dell’intelligenza artificiale da parte degli avvocati sia ormai ampiamente noto.
“Avvocato, guarda il telegiornale? Ascolta la radio? Legge qualcosa su quello che sta succedendo nel mondo? Perché il problema degli avvocati che si affidano alle allucinazioni dell’AI fa notizia praticamente ogni giorno.”
La sanzione non riguarda quindi soltanto l’errore tecnico commesso utilizzando ChatGPT, ma anche il mancato controllo di informazioni destinate a essere impiegate in un procedimento giudiziario. La responsabilità del contenuto presentato in aula resta in capo al professionista che lo sottoscrive o lo utilizza, indipendentemente dallo strumento impiegato per produrlo.
Un problema già emerso in altri procedimenti
Il caso di Aarons arriva dopo altri episodi nei quali avvocati hanno utilizzato sistemi di AI per produrre riferimenti giudiziari falsi. Già nel 2023, un legale aveva presentato casi inesistenti generati con l’aiuto dell’intelligenza artificiale. In un episodio successivo, alcuni avvocati erano stati sanzionati dopo aver scelto l’AI come supporto operativo senza verificare l’attendibilità delle risposte.
In una delle vicende citate, il procedimento era stato persino sospeso. Questi precedenti mostrano che le cosiddette allucinazioni non sono un comportamento eccezionale confinato a una singola versione di ChatGPT, ma un limite strutturale dei modelli generativi, inclusi i sistemi sviluppati da aziende come OpenAI, Anthropic e Google.
Perché la verifica umana resta indispensabile
La stessa interfaccia di ChatGPT avverte gli utenti che il sistema può commettere errori e invita a verificare le informazioni importanti. Nel settore legale, questo avviso assume un peso particolare: ogni documento, citazione o dichiarazione deve essere confrontato con una fonte primaria attendibile.
L’uso professionale dell’AI può aiutare nella ricerca preliminare, nella classificazione dei documenti o nella rielaborazione di testi, ma non elimina la necessità di un controllo umano. Un avvocato può utilizzare un modello linguistico per individuare possibili piste di ricerca, senza però considerare automaticamente corretto ciò che il sistema restituisce.
Lo stesso principio vale per altri strumenti basati sull’intelligenza artificiale, compresi i motori di risposta come Perplexity e le piattaforme emergenti dell’ecosistema AI. La presenza di citazioni, link o formulazioni tecniche non dimostra da sola l’esistenza di una fonte reale.
Nel caso esaminato, la giudice C. Shannon Bacon ha richiamato proprio la crescente frequenza di notizie sugli avvocati che utilizzano contenuti inventati dall’AI, mentre la commissione disciplinare dovrà ora valutare la posizione professionale di Stephen Aarons.
Per restare sempre aggiornato seguici su Google News!
