Microsoft ha deciso di chiamare "Sidney" la nuova release del motore di ricerca Bing basato sull’Intelligenza Artificiale denominata "Prometheus", sostanzialmente un’implementazione di GPT (Generative Pre-trained Transformer) che a sua volta è il modello linguistico utilizzato dal chatbot ChatGPT sviluppato dai ricercatori di OpenAI.
Il nome del progetto non è stato reso noto, a scoprirlo infatti sarebbero stati alcuni tester, due studenti, che avrebbero fatto emergere tale dato utilizzando tecniche diverse: una basata sul fingersi uno sviluppatore di OpenAI e l’altra tramite il prompt injection attack che consiste nell’invio di istruzioni mirate ad aggirare le direttive che un’AI dovrebbe rispettare.
In questo modo è stato possibile comprendere anche altre caratteristiche del nuovo Bing oggi accessibile solo su invito, come per esempio il fatto che esso non possa restituire immagini in risposta alle richieste degli utenti. Nello stesso modo i suoi output non dovrebbero comprendere opere tutelate da copyright come per esempio libri o contenuti audio.
The entire prompt of Microsoft Bing Chat?! (Hi, Sydney.) pic.twitter.com/ZNywWV9MNB
— Kevin Liu (@kliu128) February 9, 2023
Stando alle testimonianze dei primi utilizzatoril, Sidney sarebbe stato concepito per fornire unicamente risposte rilevanti e logiche, evitando nel contempo di affrontare gli argomenti trattati in modo generico. Gli sviluppatori avrebbero inoltre posto particolare attenzione nell’escludere tutti gli output che potrebbero arrecare danno alle persone.
I portavoce di Microsoft avrebbero confermato che le osservazioni effettuate dai ricercatori sono corrette. Attualmente infatti la chat di Bing risponderebbe ad una lista di direttive ancora in evoluzione, queste ultime verranno modificate tenendo conto delle interazioni tra il motore di ricerca e gli utilizzatori fino al raggiungimento di un risultato ottimale per il lancio definitivo.
