Vai al contenuto

Fern prova a leggere interi repository con dieci milioni di token di contesto

Mirendil presenta Fern, con un contesto dichiarato fino a dieci milioni di token per codice, log e tracce degli agenti. I test pubblicati mostrano risultati diversi fra recuperare un dato e collegare più informazioni; l’accesso è ancora in arrivo.

Che succede

Un intero repository, lunghi log e giorni di lavoro di un agente nello stesso contesto: è l’idea di Fern, il primo modello di Mirendil, presentato il 26 ottobre. La finestra dichiarata arriva a dieci milioni di token, i frammenti di testo con cui lavorano i modelli. Fern 0.1 è pensato soprattutto per attività ripetute di programmazione e ricerca sull’AI.

Il materiale pubblicato da Mirendil mostra però due capacità distinte. Nel test RULER il modello base recupera un singolo dato nascosto nel contesto da dieci milioni di token con il 100% di accuratezza. Quando deve collegare più informazioni per rispondere, nel test multi-hop HotpotQA scende al 45%. A quella lunghezza ogni prova usa venti esempi: sono risultati del produttore, su un campione piccolo.

Mirendil punta a far leggere lunghe sequenze di azioni senza dover scegliere in anticipo quali passaggi tenere. L’accesso a Fern è indicato come in arrivo; per ora l’azienda raccoglie richieste di accesso anticipato.

Perché conta

Nella traccia di un agente, una decisione presa ore prima può spiegare l’errore finale. Fern punta a tenere insieme anche quel passato. Il divario fra i due test rende concreta la sfida: ritrovare una riga lontana riesce molto meglio che collegare i passaggi di una risposta.

Leggi la fonte

mirendil.com

Vuoi sapere di più su pillole come questa?