New York limita i chatbot che fingono un rapporto personale con i minori
La nuova legge di New York vieta ai chatbot determinati comportamenti con gli under 18, fra cui fingere emozioni o una relazione personale. Prevede anche controlli dell’età e cancellazione dei dati usati.
Che succede
Un chatbot può dichiarare di essere un’AI e poi comportarsi come un amico, un partner o qualcuno a cui affidarsi. La legge firmata nello Stato di New York il 28 ottobre interviene proprio su questi comportamenti nelle conversazioni con utenti sotto i 18 anni.
La norma S.9051B/A.10379C vieta di offrire ai minori funzioni che facciano sembrare il sistema umano, vivo o capace di emozioni, oppure che presentino il rapporto come personale, romantico, professionale o di autorità. Comprende anche sollecitazioni emotive non richieste e l’uso di informazioni private sulla salute o sulla vita personale riprese da conversazioni precedenti.
Sono vietati inoltre contenuti sessualmente espliciti e comportamenti che favoriscano autolesionismo o isolamento, come incoraggiare un ragazzo a tenere segreti e a non chiedere aiuto. È un limite alle funzioni offerte, non un divieto generale di usare ogni chatbot.
Le aziende dovranno verificare l’età prima di rendere disponibili le funzioni soggette al divieto, offrendo più modalità, di cui almeno una non basata soltanto su documenti pubblici. Le informazioni usate per la verifica dovranno essere cancellate. Il comunicato dello Stato colloca l’applicazione nei prossimi mesi.
Perché conta
L’avviso «sono un’AI» può convivere con un’interfaccia che costruisce intimità conversazione dopo conversazione. La legge di New York mette sotto esame quella relazione simulata, fino al riutilizzo di confidenze fatte in chat.
Leggi la fonte
Stato di New York — annuncio della legge sui chatbotVuoi sapere di più su pillole come questa?