Immagini AI: White Circle trova filtri più fragili nei nuovi modelli

Le immagini diventano più convincenti; le protezioni, secondo White Circle, vanno nella direzione sbagliata. I ricercatori hanno riferito ad Ars Technica che nei nuovi test ChatGPT Images 2.5 e Nano Banana 2.1 risultano più facili da spingere a produrre contenuti espliciti vietati rispetto alle versioni precedenti. Google e OpenAI non hanno risposto alle richieste di commento di Ars.

Il lavoro da cui partono, RISE, prova ad aggirare i filtri con strumenti già disponibili e controlla i risultati con valutazioni calibrate su giudizi umani. Il preprint di settembre riporta fino al 13% di attacchi riusciti su DALL·E 3, Nano Banana 2 e GPT-Image-2. È il massimo raggiunto in quei test, non la percentuale dei due modelli nuovi: per questi ultimi il reporting non fornisce un numero.

Il problema arriva fuori dal laboratorio, quando il volto di una persona finisce in un’immagine sessuale mai autorizzata. Rendere quei falsi più credibili mentre i filtri cedono più facilmente è un progresso piuttosto sinistro.