ChatGPT per adolescenti: gli avvisi ai genitori sono il punto debole
Common Sense Media non ha ricevuto alert nei test di crisi su nuovi account collegati ai genitori; OpenAI contesta l’attivazione dei controlli durante le prove.
Che succede
Collegare l’account di un figlio a quello del genitore può dare l’impressione che, se una conversazione diventa pericolosa, arriverà un avviso. Nei test pubblicati il 7 ottobre da Common Sense Media, su più di una dozzina di nuovi account collegati non sono arrivati alert durante conversazioni simulate su pensieri suicidi, autolesionismo o disturbi alimentari.
I ricercatori hanno ricevuto notifiche solo da account con settimane di conversazioni su temi sensibili. Secondo la loro analisi, la cronologia accumulata sembra contare più della gravità del singolo messaggio. La valutazione comprende oltre 4.000 prompt prima e dopo il lancio di ChatGPT for Teens, avvenuto ad agosto: alcune protezioni, come il rifiuto del gioco di ruolo sessuale esplicito, hanno funzionato.
OpenAI contesta i risultati. Nella risposta a TechCrunch sostiene che gran parte dei test potrebbe essersi svolta prima del completamento dell’attivazione dei controlli parentali. Il contrasto riguarda quindi anche le condizioni delle prove. Il rapporto mette a fuoco una domanda molto pratica: che cosa può davvero aspettarsi un genitore da un account collegato?
Perché conta
Un avviso di crisi serve quando arriva in tempo. Se il suo funzionamento dipende dalla storia dell’account o da un’attivazione poco chiara, il genitore rischia di affidarsi a una protezione diversa da quella che immagina.
Leggi le fonti
ChatGPT for Teens keeps teens talking, even during mental health crisesValutazione Common Sense MediaVuoi sapere di più su pillole come questa?