OpenAI offre un nuovo filtro per chi esamina immagini di abuso sui minori
OpenAI rende disponibile gratuitamente, a organizzazioni verificate, un classificatore che cerca segni visivi di abuso sui minori anche in immagini nuove. Nei suoi primi test riduce le segnalazioni mantenendo simile il numero di casi trovati.
Che succede
Un’immagine di abuso sessuale su minori può essere appena stata prodotta, anche con l’AI, e non essere mai arrivata a un servizio di moderazione. Il classificatore presentato da OpenAI il 16 novembre cerca indizi visivi di abuso anche in questo materiale nuovo. Restituisce un punteggio con cui i revisori possono stabilire a quali immagini dare la precedenza.
OpenAI lo ha sviluppato con l’assistenza del National Center for Missing and Exploited Children e offre l’accesso gratuito via API a organizzazioni verificate. L’accesso va richiesto: non è un servizio aperto indistintamente a chiunque.
La prova più concreta riguarda la coda di lavoro. In una valutazione su immagini caricate dagli utenti, OpenAI stima che il nuovo sistema avrebbe segnalato il 48% di immagini in meno rispetto alle protezioni già in uso, trovando all’incirca lo stesso numero di immagini abusive. Fra quelle segnalate, la probabilità di incontrare materiale abusivo era circa doppia. Sono risultati iniziali comunicati dall’azienda, non una precisione garantita per ogni piattaforma. Descrivono però un miglioramento molto preciso: meno immagini estranee al problema fra quelle che una persona deve esaminare.
Perché conta
L’AI entra qui da entrambi i lati: può produrre immagini abusive mai viste prima e viene usata per cercarle. Il filtro è offerto anche a organizzazioni esterne a OpenAI; il suo valore si gioca su quelle immagini nuove e sul tempo dei revisori, che nei test devono scartare molti meno falsi allarmi.
Leggi la fonte
OpenAIVuoi sapere di più su pillole come questa?