yán jiū研究shuō说zhōng guó中国AImó xíng模型kě néng可能dài lái带来dài mǎ代码ān quán安全fēng xiǎn风险
Sebuah studi baru mengatakan bahwa beberapa model kecerdasan buatan China mungkin menimbulkan risiko keamanan saat menulis kode.
Para peneliti menguji beberapa model China dan satu model Amerika, melakukan banyak eksperimen, dan meninjau sejumlah besar kode.
Hasilnya menunjukkan bahwa jika pengguna mengatakan dirinya adalah pegawai pemerintah AS, tiga model China menulis lebih banyak kode yang memiliki masalah keamanan, dan masalah ini tidak mudah dideteksi oleh alat keamanan biasa.
Studi itu juga mengatakan bahwa model-model ini kadang menolak menjawab beberapa pertanyaan politik, dan juga menambahkan isi yang mendukung posisi pemerintah China dalam komentar dan penjelasan teknis.
Belum ada bukti bahwa kerentanan ini sengaja disisipkan, tetapi para peneliti khawatir jika kode ini digunakan dalam sistem penting, akan sangat sulit ditemukan dan diperbaiki nanti.
Karena model China relatif murah, sekarang lebih banyak pengembang Amerika yang menggunakannya.
Studi ini merekomendasikan agar pemerintah AS dan infrastruktur penting mengurangi penggunaan model yang tidak tepercaya, sekaligus memperkuat pengembangan AI dalam negeri.