PolicyLM permette di cambiare le regole di moderazione senza riaddestrare il modello

Una piattaforma cambia le proprie regole; il modello di moderazione dovrebbe poterle seguire senza mesi di nuovo addestramento. PolicyLM-1.7B, annunciato da Musubi il 6 ottobre con pesi aperti, riceve la policy scritta in linguaggio naturale insieme al contenuto da valutare.

Il risultato è una decisione di appartenenza a una categoria, non un testo generato per spiegare ogni messaggio. Il modello ha 1,7 miliardi di parametri e pesi con licenza Apache. L’idea è mantenere la velocità di un classificatore, lasciando alle istruzioni la definizione delle regole da applicare.

Musubi dichiara valutazioni sotto i cinquanta millisecondi nelle condizioni del proprio sistema. La misura dipende dall’hardware e dalla configurazione: il cambiamento pratico è poter aggiornare il testo della policy e applicarlo senza fare un nuovo fine-tuning a ogni revisione.

Per chi gestisce una community, il lavoro si sposta anche sulla chiarezza delle regole e sui casi di prova. Se una policy è ambigua, renderla facile da cambiare non la rende automaticamente buona. Permette però di correggere il criterio senza dover ricostruire il modello.