Vai al contenuto

Hugging Face affida a OpenRouter le richieste ai modelli linguistici

Le richieste ai modelli linguistici di Hugging Face passano ora da OpenRouter, con un nuovo tentativo presso un altro provider in caso di errore. Token e codice restano validi; sparisce invece il supporto alle chiavi personali dei singoli provider per questi modelli.

Che succede

Hugging Face permette di usare modelli linguistici attraverso fornitori esterni: il suo servizio Inference Providers invia loro le richieste da eseguire. Se un fornitore restituisce un errore, ora può riprovare presso un altro. Dal 16 novembre il servizio usa il sistema di instradamento di OpenRouter, che sceglie dove inviare ogni chiamata in base a prezzo, velocità e affidabilità misurati.

Il token Hugging Face e il codice esistente continuano a funzionare. Si può privilegiare il prezzo con il suffisso :cheapest, la velocità con :fastest, oppure indicare un fornitore preciso. Le pagine dei modelli mostrano prezzi e prestazioni dei provider; nelle impostazioni si possono escludere quelli a cui non si vogliono inviare richieste.

C’è però un cambiamento per chi usava la propria chiave API di un provider: con i modelli linguistici non è più supportata. Le chiamate vengono addebitate all’account o all’organizzazione Hugging Face, al prezzo del fornitore e senza un ricarico di Hugging Face.

Immagini, video e audio mantengono il percorso precedente. Per il testo, il passaggio rende meno definitivo il guasto di un singolo provider, ma sposta anche tutta la fatturazione su Hugging Face. Collegare un account OpenRouter è ancora un passo annunciato per il futuro.

Perché conta

L’integrazione può restare identica mentre dietro la stessa chiamata cambia chi esegue il modello. Hugging Face conserva il proprio token come punto d’ingresso, ma toglie la chiave personale del provider e addebita le richieste all’account Hugging Face del cliente: il codice continua a funzionare, mentre la fatturazione dei fornitori passa dall’intermediario.

Vuoi sapere di più su pillole come questa?