Janas: un modello da 48 GB, senza una GPU da comprarci intorno
Nei test dell’autore, Qwen3-Next-80B genera 24 token/s contro i 2,8 di llama.cpp sullo stesso portatile.
Che succede
Far girare un modello enorme sul portatile non è una conquista se poi aspetti ogni parola. Janas prova a superare proprio quel limite: nei test dell’autore, Qwen3-Next-80B da 48,4 GB genera 24 token/s su un laptop con 32 GB di RAM, contro 2,8 con llama.cpp. Usa RAM e SSD per gli esperti del modello; la GPU integrata accelera la lettura del prompt. Nessuna scheda dedicata piena di VRAM.
Il risultato resta preliminare: un solo laptop, generazione misurata su appena 16 token e procedure non identiche. Non ho riprodotto il benchmark: sostiene questo angolo, non una promessa di prestazioni su qualsiasi macchina.
Perché conta
Non batte i record di velocità. Prova a togliere una GPU costosa dalla lista della spesa.
Leggi la fonte
Janas — benchmark e metodoVuoi sapere di più su pillole come questa?
Nella stessa edizione
Janas: un modello da 48 GB, senza una GPU da comprarci intorno
Muse Wonder: Meta sale di livello, ma il meglio resta nel suo recinto
Prossima Pillola