Vai al contenuto

Mammoth ed Elephant: modelli decisionali con pesi aperti e licenza MIT

Baseten rilascia due modelli decisionali da 9 e 27 miliardi di parametri con pesi scaricabili e licenza MIT. Scelgono fra opzioni e restituiscono probabilità, senza una risposta discorsiva.

Che succede

Dove mandare una richiesta di rimborso, e con quale urgenza? Sono due delle scelte che un modello decisionale può fare sullo stesso messaggio. Elephant-1 e Mammoth-1 di Baseten ricevono il testo e le opzioni e restituiscono probabilità per le possibili risposte, senza generare un testo da interpretare dopo.

La differenza concreta è che i pesi si possono scaricare. Elephant ha 9 miliardi di parametri, Mammoth 27; entrambi sono rilasciati con licenza MIT e possono essere eseguiti su infrastruttura propria. Derivano da Qwen3.5, con un addestramento su 6,21 milioni di esempi decisionali. Le model card indicano un contesto massimo di 16.384 token e un runtime per GPU CUDA; l’addestramento è stato solo testuale.

Il modello legge una volta il contesto condiviso e lo riutilizza per rispondere a più domande. È una specializzazione sensata per attività ripetute come classificare richieste o scegliere lo strumento da chiamare: produrre una frase completa sarebbe lavoro in più per ottenere una scelta già definita.

Baseten riporta 71,24 per Mammoth nel Jev Decision Index 0.4. Nel proprio rifacimento dell’indice Artificial Analysis dichiara 65,9 per Mammoth e 65,2 per Elephant, contro il 65 di d1-ultra: quei valori della replica non sono una valutazione indipendente di Artificial Analysis. I modelli sono stati addestrati anche a riconoscere l’incertezza, ma la calibrazione delle probabilità su questi test non garantisce lo stesso risultato su qualunque attività.

Perché conta

Con i pesi MIT, anche il componente che smista le richieste o decide quale strumento chiamare può restare sull’infrastruttura di chi lo usa. Mammoth ed Elephant rendono disponibile quella parte dell’automazione senza obbligare a delegarla alle API di Baseten.

Vuoi sapere di più su pillole come questa?

Nella stessa edizione

AI

Mammoth ed Elephant: modelli decisionali con pesi aperti e licenza MIT

Stai leggendo