Tencent e Moonshot limitano le capacità di attacco dei loro modelli AI
Tencent e Moonshot riducono le capacità offensive di Hy4 e Kimi K3.1 Pro, mantenendo i modelli scaricabili. Alibaba tiene invece chiusi i pesi di Qwen4-Max, mentre Pechino propone controlli sulle esportazioni di AI da attacco.
Che succede
Tencent ha tolto dall’addestramento di Hy4 materiali sullo sviluppo di attacchi informatici, mantenendo quelli difensivi. Il modello, uscito il 4 novembre, resta scaricabile: l’azienda cerca di ridurne l’utilità per chi vuole sfruttare una falla, senza rinunciare all’aiuto che può dare a chi deve correggerla.
Secondo Bloomberg, anche Moonshot ha ridotto le capacità offensive di Kimi K3.1 Pro. È un intervento diverso dal tenere un modello dietro una chat: Hy4 e Kimi possono essere eseguiti su infrastrutture proprie, grazie alla distribuzione dei pesi, i file che ne contengono i parametri appresi durante l’addestramento.
Alibaba ha scelto anche una strada più restrittiva per Qwen4-Max, presentato il 16 novembre: i pesi della versione completa restano chiusi. Si può usare il servizio, ma non scaricare quel modello e modificarlo liberamente. Ridurre le capacità offensive e controllare la distribuzione sono quindi due leve distinte.
Le decisioni arrivano mentre il ministero del Commercio cinese propone di vietare l’esportazione di strumenti AI capaci di attaccare infrastrutture critiche, reti governative o obiettivi militari. Il divieto non è ancora in vigore. Xiaojian Li, fondatore della società di sicurezza Fangcun AI, spiega a Bloomberg che togliere materiale offensivo dall’addestramento può ostacolare gli abusi, ma non eliminare del tutto il rischio.
Perché conta
Hy4 resta scaricabile: Tencent cerca di ridurre le capacità di attacco prima di consegnare il modello, invece di affidarsi soltanto ai rifiuti di una chat sotto il proprio controllo. È un tentativo di conservare l’apertura senza distribuire anche un assistente per gli attacchi, complicato dalla vicinanza fra il codice che serve a correggere una falla e quello che permette di sfruttarla.
Leggi le fonti
Bloomberg, ripubblicato da The Star — i limiti ai modelli cinesiReuters, ripubblicato da CNA — l’addestramento di Hy4Vuoi sapere di più su pillole come questa?