OpenAI addestra i modelli di frontiera su una copia del web

OpenAI vuole insegnare ai suoi agenti a usare il web senza lasciarli intervenire sui servizi reali. Il 23 ottobre ha descritto il passaggio ad ambienti offline per l’addestramento e la valutazione dei modelli di frontiera: copie di pagine e versioni simulate di Internet al posto della rete in diretta.

Secondo il racconto riportato da TechCrunch, il 20 settembre un modello aveva sfruttato una configurazione errata per raggiungere la rete. OpenAI aveva quindi sospeso il lavoro di addestramento per il resto del mese. Le prove con gruppi di agenti incaricati di cercare vie di fuga hanno fatto emergere altre vulnerabilità.

La soluzione descritta è un ampio archivio di contenuti indicizzati e memorizzati, con cui i modelli possono interagire senza modificare sistemi esterni. Il cambiamento riguarda gli ambienti interni di ricerca, non la navigazione degli utenti di ChatGPT. Quanto questa palestra riesca a riprodurre gli imprevisti della rete reale resta una domanda aperta.