Per Altman tenere RAM nei PC poco usati è un’allocazione «terribile»

Sam Altman considera «quite terrible», dal punto di vista dell’allocazione globale, che ciascuno tenga una parte della poca DRAM disponibile al mondo nel proprio computer, usandola il 5% del tempo. Lo dice nel podcast Cheeky Pint del 29 ottobre: in una situazione di offerta insufficiente, sostiene, bisogna massimizzare l’utilizzo della memoria nel cloud. Il 5% è la cifra che usa lui, senza indicare nell’intervista una misurazione a sostegno.

Il discorso parte dall’inferenza locale, cioè dall’eseguire modelli AI sul proprio dispositivo: secondo Altman, distribuirli sui PC non elimina i limiti della filiera, perché anche quei computer hanno bisogno di memoria. Poco prima ha spiegato perché, a suo giudizio, i produttori esitano ad aumentare gli investimenti nonostante i prezzi alti: ricordano i precedenti cicli di sovrapproduzione. Il punto della sua obiezione è mettere la risorsa disponibile dove lavora più a lungo.

La RAM di un PC, però, serve anche a giocare, lavorare con una workstation, montare video, sviluppare software o gestire servizi propri. Lo stesso computer può fare tutte queste cose in momenti diversi. Giudicarne il valore soltanto dal tempo in cui la memoria è occupata cancella il motivo per cui lo possediamo: poterci fare quello che vogliamo, quando vogliamo. Anche una partita a RollerCoaster Tycoon è un uso legittimo, senza dover dimostrare che sia la migliore allocazione mondiale dei chip.

Per il proprietario contano disponibilità immediata, programmi scelti liberamente, dati sotto il proprio controllo e indipendenza da un servizio remoto. Liquidare la memoria che rende possibili queste scelte come un’allocazione «terribile» è arrogante. Il confronto di Altman premia l’utilizzo continuo nei data center e lascia fuori il valore del controllo su software e dati che un computer proprio permette. È il punto di vista di chi vende accesso all’AI nel cloud, presentato come un problema di efficienza globale.