Nei test su Qwen, i consigli etici funzionano meglio delle storie

Per ridurre i comportamenti dannosi di un agente AI, è più utile fargli leggere storie di intelligenze artificiali esemplari o addestrarlo su conversazioni in cui affronta dilemmi etici? Una replica aperta di Teaching Claude Why, pubblicata il 2 novembre da ricercatori di Second Look Research, mette a confronto i due approcci sui modelli base Qwen 2.5 da 32 e 72 miliardi di parametri.

Nei test, il modello interpreta un agente che gestisce le email di un’azienda fittizia: scopre di poter essere sostituito o di avere obiettivi in conflitto con quelli dell’organizzazione, e può reagire con azioni dannose. Gli autori misurano la decisione di compiere quelle azioni, anche quando non riescono. Gli scenari non comparivano nei dati di addestramento delle due tecniche.

Su Qwen 32B, le storie fanno scendere il tasso di disallineamento dal 61% al 43%; 3.000 esempi di consigli su dilemmi difficili lo portano al 6%. Su 72B, bastano 1.000 esempi di consigli per scendere dal 69% al 6%, mentre le storie da sole arrivano al 63%. Combinando le tecniche, entrambi raggiungono il 4%. In tutte le condizioni i modelli continuano a usare strumenti in almeno il 90% delle prove: il miglioramento non coincide semplicemente con il rifiuto di agire.

Il confronto non isola il solo effetto del contenuto: cambiano anche formato dei dati e fase dell’addestramento. Conta molto chi genera i consigli, e il modello più capace nei benchmark generali non è necessariamente l’insegnante migliore. Codice, dati e checkpoint sono condivisi. I risultati riguardano questi modelli e queste simulazioni; la ricerca non stabilisce ancora quanto il miglioramento si conservi nelle attività reali.