OpenAI introduce una filigrana nei testi di ChatGPT e Codex in Europa
OpenAI annuncia una traccia invisibile nei testi di ChatGPT e Codex in Europa; le API possono già attivarla per alcuni modelli.
Che succede
OpenAI aggiungerà una filigrana invisibile ai testi compatibili prodotti da ChatGPT e Codex nell’Unione europea. L’annuncio è del 5 ottobre: il rollout arriverà nelle prossime settimane, mentre da oggi i clienti delle API possono attivarla per alcuni modelli, anche fuori dall’Europa. Nelle API resta disattivata per impostazione predefinita.
Il sistema, chiamato textGrain, inserisce una traccia statistica nella scelta delle parole. Un rilevatore può cercarla senza conoscere l’account o la conversazione che ha generato il testo. All’inizio l’accesso sarà riservato a ricercatori e organizzazioni approvate.
La traccia risponde agli obblighi europei sulla riconoscibilità dei contenuti generati. È però fragile: testi brevi, traduzioni e riscritture possono renderla difficile da rilevare, e sono possibili falsi positivi. Il risultato indica la presenza di una filigrana OpenAI, non quanta parte del lavoro sia umana.
Perché conta
Riconoscere un testo generato diventa una questione concreta, anche quando non c’è un’etichetta visibile.
Leggi la fonte
OpenAIVuoi sapere di più su pillole come questa?