Dopo Jev arriva Clef: decisioni AI a una frazione del costo
Cloudflare presenta Clef e Clef-flash: modelli aperti per decisioni AI rapide, anche su immagini.
Che succede
Usare un grande modello AI per ogni piccola decisione può rendere un’automazione lenta e costosa. Jev, presentato da TypeSafe a settembre, ha attirato attenzione perché affronta proprio questo problema: risposte in 70–500 millisecondi, a 0,042 dollari per milione di token in ingresso, senza addebiti per l’output. Nei test pubblicati da TypeSafe, la qualità delle decisioni è paragonabile a quella dei grandi modelli, con costi e tempi molto inferiori.
Jev sceglie tra opzioni definite dal programma, invece di generare una risposta parola per parola. Può stabilire se una richiesta di assistenza è urgente o a quale reparto assegnarla. Per usarlo bene, il lavoro va scomposto in domande precise, con criteri chiari: il programma usa le risposte e le loro probabilità per decidere il passo successivo.
Cloudflare entra ora in questo campo con Clef e Clef-flash, compatibili con il formato delle richieste di Jev. Aggiungono la lettura delle immagini e sono scaricabili con licenza Apache 2.0, oltre che disponibili su Workers AI. Nei confronti pubblicati da Cloudflare, Clef-flash risponde in circa 39 millisecondi di mediana e supera Jev in diversi test di qualità.
Perché conta
Quando le decisioni da prendere sono milioni, il costo di ogni chiamata determina quali automazioni conviene costruire. Abbassarlo così tanto rende praticabili usi dell’AI che prima non tornavano nei conti.
Leggi la fonte
Cloudflare — Clef e Clef-flashVuoi sapere di più su pillole come questa?