yán jiū研究shuō说zhōng guó中国AImó xíng模型kě néng可能dài lái带来dài mǎ代码ān quán安全fēng xiǎn风险
Une nouvelle étude indique que certains modèles d’intelligence artificielle chinois pourraient créer des risques de sécurité lorsqu’ils écrivent du code.
Les chercheurs ont testé plusieurs modèles chinois et un modèle américain, mené de nombreuses expériences et examiné une grande quantité de code.
Les résultats ont montré que si l’utilisateur disait être employé du gouvernement américain, trois des modèles chinois écrivaient davantage de code présentant des problèmes de sécurité, et ces problèmes n’étaient pas faciles à détecter avec les outils de sécurité ordinaires.
L’étude indique aussi que ces modèles refusaient parfois de répondre à certaines questions politiques, et qu’ils ajoutaient aussi dans les commentaires et les explications techniques du contenu soutenant la position du gouvernement chinois.
Il n’existe pas encore de preuve que ces vulnérabilités aient été ajoutées volontairement, mais les chercheurs craignent que, si ce code est utilisé dans des systèmes importants, il soit ensuite très difficile à détecter et à corriger.
Comme les modèles chinois sont relativement peu chers, davantage de développeurs américains les utilisent maintenant.
L’étude recommande au gouvernement américain et aux infrastructures critiques d’utiliser moins de modèles non fiables et de renforcer le développement national de l’intelligence artificielle.