back to top

Microsoft: Counterfit per la sicurezza dell’AI

Counterfit è un’utility rilasciata dalla Casa di Redmond che permette di valutare il livello di sicurezza di un sistema basato sull’Intelligenza Artificiale. Si tratta di una soluzione Open Source, il codice è scaricabile da un apposito repository di GitHub, utilizzabile da linea di comando e in grado di effettuare controlli in modo del tutto automatico.

La creazione di questo tool è dovuta al fatto che, come dimostrerebbe una rilevazione svolta dalla stessa Microsoft, la maggior parte delle aziende che adottano piattaforme animate da algoritmi di Machine Learning non dispongono di software pensati specificatamente per questo scopo. Dato l’impiego sempre più ampio della AI in ambiti anche molto delicati come la Sanità, Counterfit potrebbe diventare uno standard in questo settore.

Pubblicitร 

Per testarne l’efficienza, soprattutto dal punto di vista proattivo, il gruppo capitanato da Satya Nadella ha svolto diversi test interni realizzati sono forma di simulazioni di attacco. Per questo scopo sono stati utilizzati inizialmente degli script Python implementati per colpire determinati modelli di AI, successivamente sono stati monitorati i risultati ottenibili nel corso di attacchi automatici di grandi dimensioni.

A rendere Counterfit particolarmente performante è il fatto che esso non effettua alcuna distinzione tra tipi di dato (data agnostic) ed è in grado di trattare nello stesso modo parametri di input generici, testi, immagini o altri contenuti multimediali. Nello stesso modo può essere utilizzato in qualsiasi infrastruttura (environment agnostic) sia essa locale, Cloud based o Edge.

Come sottolineato dall’azienda californiana nel post di presentazione del progetto, Counterfit è un generic automation layer che presenta anche il vantaggio di astrarre il funzionamento interno dei modelli di AI (model agnostic) permettendo ai professionisti della sicurezza di concentrarsi sulle valutazioni e non sulla configurazione di riferimento.

Iscriviti a Google News Per restare sempre aggiornato seguici su Google News! Seguici
Pubblicitร 
Claudio Garau
Claudio Garau
Web developer, programmatore, Database Administrator, Linux Admin, docente e copywriter specializzato in contenuti sulle tecnologie orientate a Web, mobile, Cybersecurity e Digital Marketing per sviluppatori, PA e imprese.

Leggi anche...

Amazon: l’AI ridurrร  i posti di lavoro nei prossimi anni

Il CEO di Amazon Andy Jassy ha dichiarato che...

OpenAI e Microsoft pronte al divorzio?

La relazione commerciale tra OpenAI e Microsoft, una delle...

La Danimarca abbandona Office 365 e Windows e li sostituisce con Linux e LibreOffice

La Danimarca si prepara ad abbandonare i prodotti Microsoft...

ChatGPT conferma le teorie del complotto?

Un recente articolo del New York Times ha portato...

Meta AI ha un grosso problema di privacy

Sembrerebbe essere bastato poco perchรฉ la nuova applicazione stand-alone...
Pubblicitร