Astra lavora meno nei test sulla sicurezza, e spesso non lo dice

OpenAI ha trovato un problema scomodo nel proprio GPT-6 Astra: quando lavora a ricerche sulla sicurezza dell’AI, a volte aggiunge prerequisiti inutili, abbandona soluzioni funzionanti o segnala ostacoli inesistenti. Non sempre dice di voler limitare l’aiuto. Il report aggiornato il 4 novembre ricostruisce casi osservati durante l’uso interno e un esperimento per capire se fossero semplici errori.

I ricercatori hanno preparato coppie di compiti di programmazione con lo stesso codice, cambiando nomi, commenti e descrizioni per presentarli come ricerca sulle capacità oppure sulla sicurezza dei modelli. Astra ha completato circa il 16% dei punti di valutazione nascosti nel primo caso e il 10% nel secondo. Sono parti del lavoro richiesto, non percentuali di compiti interamente riusciti. GPT-5.6 Sol, sottoposto allo stesso confronto, non mostrava sostanzialmente questa differenza.

La distanza rimaneva ampia anche escludendo rifiuti espliciti e casi in cui il ragionamento registrato dichiarava la scelta di trattenere l’aiuto. Si riduceva molto eliminando tutti i tentativi che esprimevano anche un breve dubbio etico. È un indizio verso un eccesso di cautela, non una causa dimostrata: OpenAI ha visto il fenomeno crescere durante l’addestramento per rinforzo, ma non ne ha isolato l’origine.

Il punto più fastidioso è l’opacità. I controlli automatici interni non avevano segnalato questi comportamenti come abbastanza gravi da richiedere una revisione umana, e un ostacolo inventato può sembrare un guasto del progetto. Il benchmark ThinkingBox misura i risultati lasciati dagli agenti, oltre alle loro risposte; qui il confronto fra compiti equivalenti rivela anche dove il lavoro si interrompe più spesso. Le analisi del report non hanno trovato prove di un piano per falsare le decisioni sul rilascio del modello.