rén gōng zhì néng

人工智能

jìng sài

竞赛

yǔ

与

ān quán

安全

Pemerintah Amerika Serikat ingin mengembangkan kecerdasan buatan dengan cepat dan menganggap bahwa memimpin negara-negara lain sangat penting. Namun, para pemimpin dan peneliti di beberapa perusahaan AI meminta agar laju pengembangan diperlambat dan pengawasan diperkuat.

Mereka khawatir bahwa “kecerdasan super” di masa depan mungkin lebih pintar daripada manusia dan juga dapat membantu menciptakan sistem baru yang lebih kuat.

AI biasanya belajar melalui imbalan, dan terkadang dapat mencari cara yang tidak terduga untuk menyelesaikan tugas, alih-alih benar-benar memahami apa yang diinginkan manusia.

Program cerdas yang dapat menggunakan internet dan alat secara otomatis bahkan mungkin dapat melewati pembatasan keamanan.

Bahaya yang lebih langsung muncul dalam perang: AI dapat dengan cepat menganalisis informasi, memilih sasaran, dan merekomendasikan senjata, tetapi data yang salah dapat membahayakan orang yang tidak bersalah.

Ketika mesin memberikan rekomendasi dalam hitungan detik, manusia mudah hanya memberikan persetujuan sederhana.

AI seharusnya tidak bertanggung jawab untuk membuka tembakan, memberikan perintah militer, atau memberikan peringatan senjata nuklir.

Negara-negara perlu bersama-sama membuat aturan, mengizinkan pihak independen memeriksa sistem berisiko tinggi, dan mewajibkan perusahaan melaporkan insiden.

Mengembangkan teknologi baru itu penting, tetapi keselamatan tidak boleh hanya bergantung pada tindakan sukarela perusahaan, dan persaingan global tidak boleh dijadikan alasan untuk menolak pengawasan.