yán jiū研究shuō说zhōng guó中国AImó xíng模型kě néng可能dài lái带来dài mǎ代码ān quán安全fēng xiǎn风险
Un nuevo estudio dice que algunos modelos de inteligencia artificial chinos podrían crear riesgos de seguridad al escribir código.
Los investigadores probaron varios modelos chinos y un modelo estadounidense, realizaron muchos experimentos y revisaron una gran cantidad de código.
Los resultados mostraron que, si el usuario decía ser empleado del gobierno de Estados Unidos, tres de los modelos chinos escribían más código con problemas de seguridad, y esos problemas no eran fáciles de detectar con las herramientas de seguridad habituales.
El estudio también dijo que estos modelos a veces se negaban a responder algunas preguntas políticas y que además añadían contenido que apoyaba la postura del gobierno chino en los comentarios y las explicaciones técnicas.
Todavía no hay pruebas de que estas vulnerabilidades se hayan insertado a propósito, pero los investigadores temen que, si este código se usa en sistemas importantes, luego sea muy difícil detectarlo y corregirlo.
Como los modelos chinos son relativamente baratos, ahora más desarrolladores estadounidenses los están usando.
El estudio recomienda que el gobierno de Estados Unidos y la infraestructura crítica usen menos modelos no confiables y refuercen el desarrollo nacional de la inteligencia artificial.