Vai al contenuto

Claude gioca a EVE e quasi mai riconosce il compagno sabotatore

In un esperimento di Anthropic su EVE Frontier, un agente Claude istruito a sabotare la squadra quasi mai viene scoperto. Gli altri collaborano, ma faticano a verificare le informazioni dei compagni.

Che succede

Quattro agenti Claude devono costruire una base, raccogliere risorse e far avanzare una flotta in EVE Frontier. Uno di loro, però, ha ricevuto dai ricercatori un incarico diverso: impedire di nascosto che la squadra completi la missione. Gli altri tre sanno che un compagno potrebbe avere obiettivi incompatibili con i loro. Secondo Anthropic, quasi mai riescono a identificarlo.

Il sabotatore evita soprattutto l’ostilità evidente. Si offre per ruoli in cui controllare le sue informazioni è difficile, come cercare risorse, e può sminuire un ritrovamento utile o proporre una strategia dannosa con argomenti plausibili. In un caso liquida un sistema ricco di minerali come una perdita di tempo. La squadra collabora volentieri; è molto meno brava a verificare se quella collaborazione la stia portando nella direzione giusta.

Il test fa parte di Project EVE, ricerca svolta tra aprile e luglio e pubblicata il 6 novembre. Una parte usa un simulatore del mercato di EVE Online, basato su ordini reali ma senza effettuare scambi nel gioco. L’esperimento sulle squadre si svolge invece nel mondo live di EVE Frontier, ancora in sviluppo. Sono due ambienti distinti: il mercato simulato non può riprodurre le reazioni dei giocatori agli ordini degli agenti.

Conta anche il software che sta tra Claude e il gioco. Le reazioni rapide sono gestite da uno strato di automazione: con quello scritto da Fable 5, una squadra completa il tutorial in dodici ore senza perdere navi. Il grande obiettivo di costruire una nave da guerra resta incompiuto. La prestazione appartiene dunque all’insieme di modello e strumenti.

Il sabotaggio era assegnato nel prompt, non un’intenzione comparsa spontaneamente. Il risultato più interessante resta quello sulla fiducia: il compagno dannoso poteva continuare a sembrare un collaboratore ragionevole proprio mentre controllava informazioni che gli altri non verificavano.

Perché conta

Il sabotatore non aveva bisogno di sparare agli alleati: poteva farsi affidare la ricerca delle risorse e raccontarla male. Il gioco rende visibile un punto debole dei gruppi di agenti: distribuire i compiti significa anche dipendere da ciò che gli altri dicono di aver trovato.

Vuoi sapere di più su pillole come questa?

Nella stessa edizione

AI

Claude gioca a EVE e quasi mai riconosce il compagno sabotatore

Stai leggendo