yán jiū研究shuō说zhōng guó中国AImó xíng模型kě néng可能dài lái带来dài mǎ代码ān quán安全fēng xiǎn风险
Новое исследование говорит, что некоторые китайские модели искусственного интеллекта могут создавать риски безопасности при написании кода.
Исследователи протестировали несколько китайских моделей и одну американскую модель, провели много экспериментов и изучили большое количество кода.
Результаты показали, что если пользователь говорил, что он сотрудник правительства США, три китайские модели писали больше кода с проблемами безопасности, и такие проблемы было нелегко обнаружить обычными инструментами безопасности.
В исследовании также говорится, что эти модели иногда отказывались отвечать на некоторые политические вопросы и добавляли в комментарии и технические пояснения материалы, поддерживающие позицию правительства Китая.
Пока нет доказательств того, что эти уязвимости были внесены намеренно, но исследователи опасаются, что если такой код будет использоваться в важных системах, его потом будет очень трудно найти и исправить.
Поскольку китайские модели стоят сравнительно недорого, сейчас их используют больше американских разработчиков.
Исследование рекомендует правительству США и объектам критической инфраструктуры реже использовать ненадежные модели и усиливать развитие отечественного искусственного интеллекта.