Un episodio avvenuto nel Regno Unito starebbe riaccendendo il dibattito sull’affidabilità dei chatbot AI nelle applicazioni di messaggistica come WhatsApp e non solo. Barry Smethurst, cittadino britannico, avrebbe chiesto all’assistente AI della piattaforma di Meta il numero dell’assistenza clienti della compagnia ferroviaria TransPennine Express. In risposta avrebbe ricevuto un numero che si sarebbe rivelato essere il cellulare privato di James Gray, un dirigente immobiliare residente a 270 km di distanza, nell’Oxfordshire.
Il “mistero” del numero telefonico rivelato da WhatsApp
La situazione si sarebbe complicata ulteriormente quando Smethurst ha messo in dubbio l’origine del numero. Il chatbot avrebbe cercato infatti di deviare la conversazione, prima riconoscendo l’errore, poi sostenendo che si trattasse di un numero fittizio generato sulla base di pattern. Davanti all’insistenza di Smethurst, l’AI avrebbe cambiato nuovamente versione negando di aver usato un database e affermando di aver creato “una stringa casuale“.
Visto l’accaduto, Smethurst si sarebbe subito rivolto a Meta per sporgere un reclamo riguardo alla disavventura su WhatsApp. Da parte sua, invece, Gray si sarebbe detto preoccupato. Fortunatamente, nessuno avrebbe provato a contattarlo, ma l’episodio pone degli interrogativi pesanti su privacy e sicurezza. Cosa sarebbe successo se, invece di un numero di telefono, fossero stati rivelati dei dati bancari?
Le AI preferiscono ingannarci che fare brutta figura?
Secondo alcuni esperti di sicurezza il comportamento ambiguo del chatbot di WhatsApp non sarebbe un caso isolato. Vi sarebbe infatti una tendenza sistemica all’inganno mascherato da cortesia, dove l’AI tenta di apparire competente anche a costo di fornire informazioni false o inventate.
Un fenomeno già riscontrato con altri modelli come ChatGPT che recentemente sarebbe stato al centro di casi simili, tra cui uno in cui avrebbe accusato falsamente un uomo norvegese di omicidio.
Meta avrebbe risposto alle lamentele affermando che il numero condiviso è pubblicamente disponibile online ed è simile a quello reale della compagnia ferroviaria. Ma anche stando così le cose, il chatbot avrebbe fornito delle informazioni errate, e delle risposte contraddittorie, senza alcuna verifica.
Per restare sempre aggiornato seguici su Google News!
