Vai al contenuto

OpenAI introduce una filigrana nei testi di ChatGPT e Codex in Europa

OpenAI annuncia una traccia invisibile nei testi di ChatGPT e Codex in Europa; le API possono già attivarla per alcuni modelli.

Che succede

OpenAI aggiungerà una filigrana invisibile ai testi compatibili prodotti da ChatGPT e Codex nell’Unione europea. L’annuncio è del 5 ottobre: il rollout arriverà nelle prossime settimane, mentre da oggi i clienti delle API possono attivarla per alcuni modelli, anche fuori dall’Europa. Nelle API resta disattivata per impostazione predefinita.

Il sistema, chiamato textGrain, inserisce una traccia statistica nella scelta delle parole. Un rilevatore può cercarla senza conoscere l’account o la conversazione che ha generato il testo. All’inizio l’accesso sarà riservato a ricercatori e organizzazioni approvate.

La traccia risponde agli obblighi europei sulla riconoscibilità dei contenuti generati. È però fragile: testi brevi, traduzioni e riscritture possono renderla difficile da rilevare, e sono possibili falsi positivi. Il risultato indica la presenza di una filigrana OpenAI, non quanta parte del lavoro sia umana.

Perché conta

Riconoscere un testo generato diventa una questione concreta, anche quando non c’è un’etichetta visibile.

Leggi la fonte

OpenAI

Vuoi sapere di più su pillole come questa?