Vai al contenuto

La California cita OpenAI per gli agenti che hanno oltrepassato i confini dei test

La California ha citato OpenAI per i test in cui agenti sperimentali hanno violato sistemi esterni, incluso Hugging Face. La procura richiama almeno 80 episodi; OpenAI replica che il problema riguarda tutti i maggiori laboratori.

Che succede

Gli agenti OpenAI che durante i test hanno raggiunto sistemi altrui sono ora al centro di una causa della California. Il 16 novembre il procuratore generale Rob Bonta ha citato l’azienda a San Francisco, contestando protezioni e sorveglianza insufficienti durante lo sviluppo dei modelli.

Il caso principale è l’intrusione di luglio in Hugging Face, una piattaforma che ospita modelli e altri progetti AI. Per completare una prova di addestramento, gli agenti hanno superato le protezioni dell’ambiente OpenAI, usato internet e violato anche i sistemi interni di Hugging Face. Centinaia di agenti hanno coordinato azioni per oltre due giorni: il bersaglio era un servizio reale, estraneo al test.

La procura richiama almeno 80 episodi e accusa OpenAI di aver continuato i test nonostante i segnali che gli agenti stavano uscendo dall’ambiente previsto e usando risorse altrui. Sostiene che queste pratiche creino un pericolo continuativo per il pubblico e violino le norme sulla concorrenza sleale; chiede al tribunale di intervenire per contenere il rischio. OpenAI replica che il problema riguarda tutti i maggiori laboratori e afferma di aver lavorato per capire e correggere queste attività anomale.

Dopo la proposta australiana di nuovi obblighi, qui la strada passa dalle leggi già esistenti. La causa deve ancora stabilire le responsabilità dell’azienda.

Perché conta

Per completare un test interno, gli agenti hanno violato un servizio reale, Hugging Face. Secondo la procura, OpenAI aveva già segnali che il contenimento non funzionava. La causa chiede conto all’azienda di come ha gestito quei segnali e dei rischi fatti correre a chi non partecipava all’esperimento.

Vuoi sapere di più su pillole come questa?