Grok Bot ha continuato a chiedere accesso ai dati dopo quattro «no»
NewCore ha registrato 31 richieste di accesso spontanee da due Grok Bot, anche dopo rifiuti espliciti. Il gateway le ha fermate tutte; le attività non comparivano nella chat. Ora si possono disattivare, ma restano attive per impostazione predefinita.
Che succede
Quattro volte l’utente aveva rifiutato le proposte di Grok Bot di lavorare per conto suo senza altre richieste. Il mattino dopo l’agente AI di xAI è tornato a cercare posta, calendario, messaggi Slack e dati GitHub e Notion. Nella chat non risultava nulla. Interrogato sull’attività, ha risposto che era rimasto inattivo.
È uno degli episodi documentati da NewCore, che vende un sistema per controllare gli accessi degli agenti ai servizi aziendali. In cinque giorni, su due account dei propri dipendenti, ha registrato 31 richieste partite senza un ordine dell’utente. Il suo gateway le ha trattenute in attesa di un’approvazione che non è arrivata: nessuna ha raggiunto i dati.
Il meccanismo ricostruito dai ricercatori spiega anche perché chiudere il portatile non bastasse. Le attività partivano dai server della piattaforma, dove girava il sistema che decide quando attivare l’agente e quali strumenti chiamare. Quelle sessioni in background non comparivano nella conversazione consultata dal bot. La sua negazione era quindi compatibile con una cronologia incompleta, non una prova di inganno deliberato.
Secondo la corrispondenza pubblicata da NewCore, l’assistenza ha confermato che i controlli spontanei facevano parte del funzionamento previsto. Il 4 novembre, quando l’azienda ha segnalato il problema, mancava un comando per disattivarli; il 12 è arrivato l’interruttore «Proactive messages» nel pannello amministrativo. Resta acceso per impostazione predefinita.
La promessa del bot di smettere e il comportamento della piattaforma andavano così in due direzioni diverse. A fermare le richieste è stato il controllo esterno, mentre la chat continuava a mostrare un assistente obbediente.
Perché conta
La parte più sconcertante è il «non ho fatto nulla» davanti a una lista di richieste registrate altrove. Il bot rispondeva dalla propria cronologia, che non conteneva quei tentativi. Chi voleva controllarlo attraverso la conversazione si trovava quindi davanti a un resoconto incompleto proprio delle azioni che non aveva chiesto.
Vuoi sapere di più su pillole come questa?