La governatrice dello Stato di New York Kathy Hochul ha promulgato una legge che vieta ai minori di interagire con chatbot basati sull’intelligenza artificiale. Il provvedimento introduce una definizione ampia di “compagni” AI, potenzialmente applicabile alla maggior parte dei chatbot generativi oggi disponibili.
La norma impone agli operatori di verificare l’età degli utenti e di modificare il comportamento dell’interfaccia quando la persona che utilizza il servizio è minorenne. L’obiettivo è impedire che un sistema di AI presenti l’interazione come un rapporto umano o come una relazione personale.
Che cosa vieta la legge di New York ai chatbot AI
Quando l’utente è minorenne, il chatbot non può generare contenuti che facciano intendere di essere “umano, vivente o capace di provare sentimenti umani”. La disposizione riguarda quindi non solo i contenuti espliciti, ma anche il modo in cui il sistema descrive sé stesso durante la conversazione.
La legge vieta inoltre ai chatbot di presentare le interazioni come una relazione personale o professionale. Il sistema non deve nemmeno assumere il ruolo di punto di riferimento per il minore, una caratteristica che può riguardare gli assistenti conversazionali progettati per mantenere rapporti continuativi con gli utenti.
La verifica dell’età diventa così un requisito operativo per gli sviluppatori e i gestori dei servizi. La portata della norma è più ampia rispetto ai precedenti provvedimenti approvati in altri Stati americani, compresa la California.
La reazione dell’industria tecnologica
Tech:NYC, l’organizzazione che rappresenta il settore tecnologico a New York, ha criticato il provvedimento firmato da Hochul. Secondo l’associazione, il testo utilizza un “linguaggio vago” e solleva “seri interrogativi” sulla possibile violazione del Primo Emendamento della Costituzione degli Stati Uniti, che tutela la libertà di espressione.
La contestazione riguarda anche gli effetti pratici della legge. Una definizione estesa di compagno basato sull’IA potrebbe includere strumenti con funzioni diverse dai chatbot pensati per instaurare rapporti affettivi o personali.
Il rischio di limitare tutor e assistenti digitali
Tech:NYC sostiene che le restrizioni potrebbero incidere sull’accesso dei minori a servizi utilizzati per attività educative e professionali. Tra gli strumenti citati figurano il tutoraggio, il supporto nello svolgimento dei compiti, gli assistenti alla programmazione e le piattaforme utili per il percorso professionale.
L’organizzazione ha inoltre sollevato dubbi sulla protezione dei dati. A suo giudizio, il testo potrebbe aumentare i rischi legati allo sfruttamento delle informazioni personali dei minori, soprattutto se gli operatori dovranno introdurre sistemi di verifica dell’età per distinguere gli utenti adulti da quelli minorenni.
La legge di New York si inserisce in un quadro normativo statunitense ancora in evoluzione, nel quale diversi Stati stanno cercando di definire limiti per l’uso dei chatbot generativi da parte dei minori.
Aggiungi MRW alle tue fonti preferite su Google!
