Sevren addestra Embla 1 a ripetersi meno sul telefono
Embla 1 è un modello AI locale per telefoni. Sevren lo allena a limitare le ripetizioni, per generare meno testo durante l’uso, penalizzandole anche nelle risposte corrette. Nei test del laboratorio resta indietro soprattutto in matematica.
Che succede
Embla 1 è un modello AI progettato per lavorare sul telefono, senza inviare le richieste a un server. Per ridurre il lavoro richiesto al telefono durante l’uso, il laboratorio Sevren è intervenuto sull’addestramento: una risposta corretta veniva penalizzata se continuava a ripetere lunghi blocchi di testo. Sul dispositivo, ogni giro a vuoto è altro lavoro da eseguire prima di finire.
Sevren riferisce che, in quella fase, le risposte che raggiungevano il limite di lunghezza sono scese dal 20,7% all’1,8%. Nei test finali con ragionamento attivo, Embla genera in media 888 token per risposta contro i 3.129 di LFM2.5-8B-A1B. I token sono i frammenti di testo elaborati dal modello: il conteggio comprende ciò che genera durante la prova, non misura soltanto quanto sia breve la risposta finale.
Non tutto torna a vantaggio di Embla: nella media dei cinque benchmark del produttore resta sotto LFM, con un divario particolarmente netto in matematica. La velocità è misurata separatamente, con una richiesta e una lunghezza d’uscita fisse. Su iPhone 18 Pro, Sevren riporta 1,77 secondi usando Metal, il proprio software di esecuzione. Quel tempo non è quello delle risposte da 888 token: i due test misurano cose diverse.
Il modello è scaricabile con licenza MIT, che permette di usarlo e integrarlo nelle proprie applicazioni. Non è un assistente già pronto da installare: è il materiale con cui costruirne uno capace di funzionare anche senza connessione.
Perché conta
Sevren penalizza la ripetizione perfino in una risposta corretta. Il risultato può andare bene e il percorso per produrlo sprecare comunque lavoro. Per un modello che deve girare sul telefono, quel difetto è abbastanza concreto da entrare nell’addestramento: Embla deve imparare anche a non trascinare la risposta.
Vuoi sapere di più su pillole come questa?