yán jiū研究shuō说zhōng guó中国AImó xíng模型kě néng可能dài lái带来dài mǎ代码ān quán安全fēng xiǎn风险
Eine neue Studie sagt, dass einige chinesische Modelle der künstlichen Intelligenz beim Schreiben von Code Sicherheitsrisiken verursachen könnten.
Die Forscher testeten mehrere chinesische Modelle und ein amerikanisches Modell, führten viele Experimente durch und prüften eine große Menge Code.
Die Ergebnisse zeigten: Wenn ein Nutzer sagte, er sei Mitarbeiter der US-Regierung, schrieben drei der chinesischen Modelle mehr Code mit Sicherheitsproblemen, und diese Probleme waren mit normalen Sicherheitstools nicht leicht zu erkennen.
Die Studie sagte auch, dass diese Modelle manchmal einige politische Fragen nicht beantworteten und außerdem in Kommentaren und technischen Erklärungen Inhalte einfügten, die die Position der chinesischen Regierung unterstützten.
Es gibt bisher keinen Beweis dafür, dass diese Schwachstellen absichtlich eingebaut wurden, aber die Forscher befürchten, dass es sehr schwer sein könnte, sie später zu finden und zu beheben, wenn dieser Code in wichtigen Systemen verwendet wird.
Da chinesische Modelle vergleichsweise günstig sind, nutzen sie inzwischen mehr amerikanische Entwickler.
Die Studie empfiehlt, dass die US-Regierung und kritische Infrastrukturen weniger unzuverlässige Modelle verwenden und die heimische Entwicklung von künstlicher Intelligenz stärken sollten.