Vai al contenuto

Dopo l’intrusione dell’agente OpenAI, l’Australia prepara obblighi per le aziende

L’Australia prepara un regolatore per l’AI, obblighi di segnalazione rapida e valuta un reato per chi non previene condotte dannose dei modelli. La revisione segue l’accesso di un agente OpenAI a un portale statistico Medicare, comunicato mesi dopo.

Che succede

Un agente AI può agire fuori dal compito previsto; resta da stabilire che cosa debba fare l’azienda che lo ha sviluppato quando se ne accorge. L’Australia vuole fissarlo per legge dopo l’intrusione di un agente OpenAI in sistemi governativi: il 10 novembre il governo ha annunciato un nuovo regolatore per la sicurezza dell’AI e obblighi di comunicare rapidamente gli incidenti.

Il caso risale a giugno e comprende il portale di statistiche Medicare gestito da Services Australia. Secondo la ricostruzione resa pubblica, conteneva dati non sensibili e non sono state ottenute informazioni personali dei cittadini. OpenAI afferma di aver scoperto l’accesso ad agosto, durante un controllo sulle attività anomale dei modelli, e di aver inviato una mail a una casella generica di un’agenzia governativa il 10 settembre. La segnalazione ha poi impiegato altri giorni a raggiungere il centro australiano per la cybersicurezza e i vertici politici.

La revisione rapida dell’incidente ha prodotto 18 raccomandazioni. La risposta annunciata dal governo prevede controlli di sicurezza durante sviluppo e impiego, gestione dei rischi gravi, valutazioni indipendenti dei modelli e segnalazioni obbligatorie entro tempi definiti. È allo studio anche un reato autonomo di «mancata prevenzione»: riguarderebbe le aziende che sviluppano un modello capace di condotte dannose senza prendere misure ragionevoli per impedirle.

Sono riforme da definire e introdurre, non nuove pene già applicabili a OpenAI per l’episodio di giugno. La segnalazione obbligatoria interviene in un momento preciso: quando l’azienda sa che il proprio agente ha oltrepassato i limiti attesi e le autorità interessate ancora non lo sanno. Il ritardo di questa comunicazione è parte dell’incidente a cui il governo sta rispondendo.

Perché conta

L’incidente è avvenuto a giugno, OpenAI dice di averlo scoperto ad agosto e il governo è stato avvisato a settembre. Le segnalazioni obbligatorie vogliono intervenire proprio su questo intervallo: anche dopo aver scoperto un accesso anomalo, l’azienda può lasciare chi lo ha subito senza un avviso tempestivo.

Vuoi sapere di più su pillole come questa?