Jev porta decisioni AI nel software in una frazione di secondo, a pochi centesimi per milione di token
TypeSafe indica risposte in 70–500 millisecondi; il prezzo è 0,042 dollari per milione di token in ingresso, con output gratuiti. Jev restituisce decisioni invece di testo libero.
Che succede
Per smistare un’email può servire un giudizio AI, ma aspettare ogni volta una risposta da chatbot diventa un ostacolo. Jev, di TypeSafe, è un modello decisionale non generativo pensato per dare al software scelte, punteggi e probabilità quasi istantaneamente e a costo molto basso.
TypeSafe indica tempi di risposta di 70–500 millisecondi. Il prezzo documentato è 0,042 dollari per milione di token in ingresso, poco più di quattro centesimi di dollaro, con output gratuiti. Sono velocità e prezzo a rendere interessante inserire questi giudizi nei tanti piccoli passaggi di un programma, anziché riservare l’AI alle operazioni per cui vale la pena aspettare e spendere di più.
TypeSafe chiama questa famiglia System One Models. Anche un LLM può produrre dati strutturati; Jev rinuncia invece alla generazione di testo e calcola gli output in parallelo. Può scegliere «assistenza» o «vendite» fra opzioni definite, lasciando al codice l’inoltro dell’email. Il modello esprime il giudizio; il software stabilisce che cosa farne.
Con Jev 1.14 arriva il tipo box: restituisce un riquadro che indica dove guardare in un’immagine. Un programma può ricevere una posizione anziché interpretare «il pulsante in alto a destra». Le funzioni sulle immagini restano sperimentali: TypeSafe non le garantisce per la produzione.
I tempi riportati sono quelli indicati dal produttore, non una misura indipendente né una garanzia per ogni richiesta. E il formato corretto non rende infallibile il giudizio: una scelta può essere sbagliata, così come il riquadro può indicare l’oggetto sbagliato.
Perché conta
Quando un programma deve ripetere tanti piccoli giudizi, latenza e costo decidono se l’AI è utilizzabile davvero: una risposta strutturata, da sola, non basta.
Vuoi sapere di più su pillole come questa?
Nella stessa edizione
Jev porta decisioni AI nel software in una frazione di secondo, a pochi centesimi per milione di token
Con Bee, Amazon collega i ricordi delle conversazioni ad Alexa e agli acquisti
Apate dà ai truffatori le vittime sbagliate: sono agenti AI
Prossima Pillola