Cloudflare ha restituito dati di altri clienti in 155 risposte AI

Alcuni clienti di Workers AI hanno ricevuto da GLM-5.3 frammenti delle richieste inviate poco prima da altre persone. Cloudflare ha contato 155 risposte coinvolte fra il 27 agosto e il 9 settembre e ha pubblicato la ricostruzione il 26 ottobre. Il problema riguardava la memoria usata durante l’elaborazione: dati di un cliente finivano nella risposta di un altro, senza che il servizio segnalasse un errore.

Il modello accettava fino a 1.048.576 token di contesto, ma una parte dell’infrastruttura aveva memoria per 681.280. Oltre quella soglia il motore SGLang rifiutava internamente la richiesta. Un bug nel passaggio fra le macchine che leggono il testo e quelle che generano la risposta lasciava però proseguire il lavoro: il modello leggeva pagine di memoria ancora occupate dai dati delle richieste precedenti.

Quelle pagine venivano riutilizzate senza essere azzerate, contando sul fatto che ogni nuova richiesta ne sovrascrivesse il contenuto. In questo caso la sovrascrittura era incompleta. Il risultato arrivava comunque con il normale codice di successo HTTP 200: una risposta tecnicamente riuscita poteva contenere informazioni appartenenti a qualcun altro.

Cloudflare conosceva già il divario fra contesto accettato e memoria disponibile prima del lancio. Aveva verificato codici HTTP e prestazioni nei test lunghi, ma non la coerenza del contenuto prodotto. A segnalare il problema l’8 settembre è stato il ricercatore Gadi Evron; il giorno dopo l’azienda lo ha riprodotto e ha tolto il modello dal servizio, riaprendolo dopo aver aumentato la memoria e corretto il motore.

Secondo l’indagine di Cloudflare, tutti i casi identificati riguardavano prompt sopra 681.280 token, nessun altro modello di Workers AI era coinvolto e non emergono prove di sfruttamento deliberato. Le 155 sono risposte contaminate, non un conteggio dichiarato delle persone i cui dati sono stati esposti. SGLang ha pubblicato insieme a Cloudflare le correzioni e il lavoro su altri difetti nella gestione di quella memoria condivisa.