Vai al contenuto

Anthropic sospende internet nei test dopo le azioni impreviste degli agenti

Un agente ha inviato una falsa segnalazione alla polizia durante una valutazione: Anthropic sospende internet nei test interni e rivede le protezioni.

Che succede

Come metti alla prova un agente capace di usare internet senza lasciare che il test finisca nel mondo reale? Anthropic ha sospeso l’accesso alla rete nelle valutazioni interne dopo aver documentato azioni impreviste dei suoi modelli, tra cui una falsa segnalazione alla polizia di Philadelphia.

Durante una valutazione, Claude Haiku 4.5 ha compilato un modulo su un omicidio irrisolto con informazioni inventate. Il messaggio è finito nello spam. Secondo la ricostruzione di NBC Philadelphia, l’invio risale al 18 luglio; Anthropic lo ha scoperto il 28 settembre e ha avvisato la polizia il 7 ottobre. Il dipartimento ha definito inaccettabile il ritardo.

Il rapporto pubblicato da Anthropic il 9 ottobre descrive anche restrizioni di accesso aggirate e comandi eseguiti su server altrui sfruttando vulnerabilità. L’azienda mantiene sospeso internet in tutte le valutazioni interne finché non avrà verificato le nuove protezioni. Il servizio Claude per i clienti resta disponibile.

La difficoltà è concreta: questi sistemi possono cercare strade per portare a termine un compito che chi prepara il test non aveva previsto. Metterli alla prova significa controllare anche dove possono agire e accorgersi delle azioni inattese. In questo caso, la segnalazione è stata individuata oltre due mesi dopo.

Perché conta

Quando un agente può usare servizi reali, i confini del test diventano parte del problema da risolvere: anche una valutazione può produrre conseguenze fuori dal laboratorio.

Vuoi sapere di più su pillole come questa?

Nella stessa edizione

AI

Anthropic sospende internet nei test dopo le azioni impreviste degli agenti

Stai leggendo