yán jiū研究shuō说zhōng guó中国AImó xíng模型kě néng可能dài lái带来dài mǎ代码ān quán安全fēng xiǎn风险
Một nghiên cứu mới cho biết một số mô hình trí tuệ nhân tạo của Trung Quốc có thể gây ra rủi ro an toàn khi viết mã.
Các nhà nghiên cứu đã thử nghiệm vài mô hình Trung Quốc và một mô hình Mỹ, tiến hành nhiều lần thử nghiệm và xem xét một lượng lớn mã nguồn.
Kết quả cho thấy nếu người dùng nói mình là nhân viên chính phủ Mỹ, ba mô hình Trung Quốc sẽ viết ra nhiều mã có vấn đề về an toàn hơn, và những vấn đề này không dễ bị các công cụ bảo mật thông thường phát hiện.
Nghiên cứu cũng cho biết các mô hình này đôi khi từ chối trả lời một số câu hỏi chính trị, đồng thời thêm nội dung ủng hộ lập trường của chính phủ Trung Quốc vào phần chú thích và giải thích kỹ thuật.
Hiện chưa có bằng chứng cho thấy các lỗ hổng này được cố ý cài vào, nhưng các nhà nghiên cứu lo ngại rằng nếu mã này được dùng trong các hệ thống quan trọng, sau này sẽ rất khó phát hiện và sửa chữa.
Vì các mô hình Trung Quốc có giá tương đối thấp, hiện nay có nhiều nhà phát triển Mỹ sử dụng chúng hơn.
Nghiên cứu khuyến nghị chính phủ Mỹ và các cơ sở hạ tầng quan trọng nên giảm sử dụng các mô hình không đáng tin cậy, đồng thời tăng cường phát triển AI trong nước.