Vai al contenuto

Perplexity aggiunge la ricerca web alle decisioni da usare nel codice

Perplexity integra la ricerca web nelle sue decisioni strutturate: un’applicazione ottiene una valutazione basata anche su fonti esterne in una sola chiamata. La risposta mostra le pagine consultate; la query usa però soltanto l’inizio del testo inviato.

Che succede

La Decisions API di Perplexity può cercare sul web prima di valutare un’affermazione, riunendo ricerca e risposta strutturata in una sola chiamata. Un’applicazione può così usare informazioni esterne al testo che ha già, senza costruire da sé il passaggio fra motore di ricerca e modello.

È una delle API che restituiscono direttamente probabilità, categorie o punteggi da usare nel codice, anziché una risposta discorsiva. La categoria è quella della corsa alle piccole decisioni avviata da Jev, in cui è entrata anche OpenAI. Qui la novità è la possibilità di cercare fatti aggiornati prima della valutazione.

La modalità si chiama web_grounding. Il servizio costruisce una query per ciascuna domanda, cerca e aggiunge i risultati al contesto del modello. La query ha un limite di 256 byte e combina il testo della domanda con l’inizio dello state, il campo che contiene il materiale da valutare. Con molto testo irrilevante in apertura, l’affermazione utile può restarne fuori.

Un esempio della documentazione mostra proprio questo limite: seicento caratteri su un trasloco d’ufficio, messi prima della frase da verificare, portano a cercare informazioni sul trasloco. L’API restituisce comunque una probabilità, che il codice dell’esempio converte in un verdetto sbagliato. La risposta include però search_results, le pagine che hanno effettivamente alimentato la decisione: da lì si vede che la ricerca ha seguito un altro argomento.

Quando nessuna ricerca fornisce risultati, il modello risponde sul solo materiale originale e search_results è vuoto. La funzione costa un dollaro ogni mille ricerche, oltre ai token in ingresso, compresi quelli delle fonti aggiunte.

Perché conta

Il test sul trasloco è rivelatore: la ricerca può riuscire e portare prove inutili alla decisione. Restituire anche le pagine consultate rende visibile quel problema, che il solo numero finale lascerebbe nascosto.

Vuoi sapere di più su pillole come questa?