Granite Switch 4.1 riusa lo stesso motore per chat, voce e controlli

Un assistente vocale non deve soltanto generare una risposta: deve ricevere la voce e applicare i controlli del servizio. Con Granite Switch 4.1, annunciato il 15 ottobre, IBM prova a riunire queste funzioni attorno alla stessa infrastruttura invece di gestirle come sistemi del tutto separati.

I modelli da 8 e 30 miliardi di parametri, con licenza Apache 2, usano adattatori specializzati e un encoder vocale riutilizzando anche la cache del modello. L’interesse è nell’integrazione di pezzi che altrimenti moltiplicano servizi e gestione.

L’ingresso vocale è in inglese e passa prima dalla trascrizione. I passaggi condividono infrastruttura, ma rimangono distinti: un errore nel riconoscimento delle parole può arrivare fino alla risposta. Riunire la gestione non elimina i confini fra i componenti.