Anthropic vede vicina una forte accelerazione della ricerca grazie ai suoi modelli

Anthropic usa già l’AI per sviluppare nuova AI. Nell’aggiornamento del prospetto per la quotazione depositato il 2 novembre, l’azienda sostiene che le sue stime interne e le aspettative sui modelli futuri indicano la possibilità di raggiungere a breve la propria soglia di «progresso drasticamente accelerato attribuibile all’AI». Non ha classificato nessuno dei modelli attuali come oltre quella soglia e sta ancora valutando i dati.

Il meccanismo è un circolo di ricerca: un modello aiuta a scrivere codice, analizzare esperimenti o sviluppare il successore, e un successore più capace può a sua volta rendere più veloce il lavoro. È il terreno della cosiddetta auto-miglioria ricorsiva. Il documento non dimostra però che questo ciclo sia già autonomo o possa continuare ad accelerare senza limiti; descrive una previsione interna e il rischio che comporta.

Il passaggio più concreto riguarda i tempi del controllo. Anthropic scrive che un’accelerazione significativa è già stata riconosciuta in ritardo in passato e potrebbe esserlo di nuovo: lo sviluppo dei modelli può correre più rapidamente della capacità di preparare, verificare e applicare le misure di sicurezza. Gli strumenti usati dai ricercatori possono dunque cambiare il ritmo del lavoro più in fretta delle valutazioni che dovrebbero accompagnarlo.

L’azienda dice di non prevedere di poter affidare in sicurezza a Claude la progettazione e costruzione del tutto autonoma delle successive generazioni di modelli di frontiera, senza supervisione o comprensione umana significative. Sta considerando aggiornamenti alla Responsible Scaling Policy per mantenere gli esseri umani al controllo. È un impegno dichiarato mentre prospetta quelle capacità, non una prova esterna che le abbia già raggiunte.