David Robinson lascia OpenAI e critica la sua cultura della sicurezza

David Robinson, che guidava la scrittura dei rapporti di sicurezza per i principali lanci di OpenAI, ha annunciato di lasciare l’azienda e ne ha criticato la cultura. In un saggio ripreso da TechCrunch il 3 ottobre, sostiene che correggere i problemi dopo averli incontrati diventi sempre più rischioso mentre i sistemi AI acquistano capacità.

Robinson chiede alle aziende che sviluppano i modelli più avanzati di lavorare più come centrali nucleari o aeroporti: pianificazione accurata e più livelli di controllo, perché un errore umano non basti a provocare un disastro. Ritiene necessari anche incentivi alla sicurezza provenienti dall’esterno delle aziende.

OpenAI risponde che continua a rafforzare sicurezza, valutazioni indipendenti e monitoraggio. Il portavoce Drew Pusateri afferma che l’azienda sospende l’addestramento o trattiene i modelli quando serve rallentare. La critica di Robinson riguarda quindi il modo in cui si decide quando un sistema è abbastanza sicuro da essere usato, oltre ai singoli controlli tecnici.