Una sola API Swift per modelli Apple, locali e nel cloud

Un’app Swift può usare lo stesso codice di sessione per parlare con il modello Apple, con un modello locale o con un servizio remoto. È la proposta di AnyLanguageModel, libreria di Hugging Face compatibile con l’API di Foundation Models, il framework Apple per integrare modelli nelle app. La guida del 20 ottobre fa il punto sulla versione 1.0, uscita il 13.

Per eseguire modelli locali si appoggia a llama.cpp, MLX o Core ML; fra i servizi remoti supporta OpenAI, Anthropic e Gemini. Offre chiamate a strumenti e generazione guidata, per ottenere risposte in una struttura definita. Si può così scegliere un motore diverso per ciascun compito mantenendo lo stesso modo di gestire le conversazioni nell’app.

Restano le differenze di capacità fra i modelli e alcuni collegamenti, come Private Cloud Compute, richiedono i sistemi Apple 27. Per chi aggiorna un’app esistente, la 1.0 introduce anche modifiche incompatibili: cambia il tipo JSONValue e il formato di certi enum @Generable, tanto che i contenuti generati dalle versioni precedenti con quel formato non vengono più decodificati.