OpenAI risponde a Jev con Decisions API, l’AI delle scelte rapide
Dopo Jev e l’arrivo di altri modelli decisionali, OpenAI rende disponibile a tutti Decisions API. Usa Luna per scegliere fra opzioni definite e ora si integra anche nelle conversazioni vocali.
Che succede
In poche settimane, Jev ha aperto una corsa alle AI che scelgono senza scrivere una risposta. Il modello di TypeSafe, presentato a settembre, serve a classificare informazioni o decidere il passo successivo di un’app, stimando le probabilità delle opzioni indicate. Sono arrivati concorrenti come D1 Ultra di Liquid ed Elephant-1 di Base Lab. Ora OpenAI rende disponibile a tutti Decisions API, annunciata in beta il 29 settembre: la sua risposta a questa nuova categoria.
Nikunj Handa, responsabile delle API di OpenAI, ha raccontato a TechCrunch che il suo gruppo ha visto il prodotto di TypeSafe, vi ha riconosciuto molti possibili impieghi e si è affrettato a costruire una propria versione. Non ha addestrato un modello decisionale apposito: ha adattato GPT-6 Luna per ridurre tempi e costi. Chi sviluppa l’app fornisce il contesto e le risposte ammesse; il servizio restituisce una scelta, una probabilità o un punteggio.
La disponibilità generale del 22 ottobre aggiunge l’integrazione con GPT-Live, il sistema di OpenAI per le conversazioni vocali. Un assistente può così decidere se chiedere un chiarimento o passare una richiesta a una persona mentre la conversazione è in corso. Speak, che sviluppa tutor linguistici, ha riferito a TechCrunch di aver ridotto l’intervallo fra le azioni da 1,4 a 0,13 secondi nella propria applicazione.
È il tipo di attesa su cui si gioca questa concorrenza: quando il software deve soltanto scegliere una strada, generare una risposta discorsiva può aggiungere tempo e costo a ogni passaggio. OpenAI propone il servizio a 0,10 dollari per milione di token in ingresso, senza addebiti per l’uscita: un’offerta per quelle piccole decisioni che un’app può ripetere di continuo.
Perché conta
Jev ha mostrato che c’era un mercato per le piccole scelte che un’app ripete di continuo. OpenAI è entrata adattando Luna, un modello che aveva già: per competere in questa nuova categoria le è bastato offrirlo in una forma diversa.
Leggi le fonti
OpenAI — Decisions API disponibile per tuttiTechCrunch — la risposta a Jev e la corsa ai modelli decisionaliTypeSafe — Jev e le nuove funzioni decisionaliLiquid AI — modelli decisionali D1Vuoi sapere di più su pillole come questa?
Nella stessa edizione
Quando i sottoagenti diventano passaggi di troppo
Come Cerebras distribuisce un modello enorme su chip da 44 GB
Claude su Google Cloud: stessa fattura, due gestioni diverse dei dati
NVIDIA prova a far uscire il movimento dai video generati con l’AI
Le banche cercano di fermare gli agenti entrati nei conti dei clienti
OpenAI risponde a Jev con Decisions API, l’AI delle scelte rapide
OlmoEarth rende esplorabili i cambiamenti della Terra nel browser
Carbon-X risponde alle domande sul Dna, anche dentro il laboratorio
Canva Craft progetta la composizione prima di generare l’immagine
1Password fa entrare gli agenti senza consegnare loro la password
Prossima Pillola