Underdog prova l’assistente personale senza mandare il modello nel cloud

Un assistente personale deve vedere molta della nostra vita per essere utile. Underdog prova a risolvere parte del problema facendo girare il modello sul computer dell’utente, invece di inviare tutto a un modello ospitato in un data center.

La beta su invito, lanciata da Conway Research, funziona al momento su Mac e Windows. Secondo il fondatore Sigil Wen, usa Husky, il motore di inferenza sviluppato per l’hardware locale, e un modello di ragionamento da 27 miliardi di parametri derivato da Qwen3.8-27B. Linux e le versioni mobili sono previsti, non ancora la disponibilità descritta dal lancio.

Il progetto cifra le chiavi degli account che l’utente autorizza. Wen lo propone per attività quotidiane come ricerca d’acquisto e domande di studio; i confronti di capacità riportati da TechCrunch sono dichiarazioni del fondatore. La caratteristica verificabile del progetto annunciato è dove gira il modello, non un primato generale sulla privacy o sull’intelligenza.

Il servizio sarà inizialmente gratuito e senza pubblicità. Il modello economico previsto prende una piccola quota dalle transazioni di pagamento eseguite dall’assistente attraverso Stripe. L’inferenza a carico del computer riduce i costi del servizio, ma lega la capacità disponibile anche all’hardware dell’utente.