rén gōng zhì néng人工智能jìng sài竞赛xū yào需要ān quán安全guī zé规则
Kecerdasan buatan berkembang dengan cepat. Beberapa peneliti yang terlibat dalam pengembangannya khawatir bahwa sistem di masa depan dapat menjadi sangat kuat, sementara manusia masih belum memiliki cara yang andal untuk memastikan bahwa sistem tersebut selalu mengikuti arahan manusia.
Ini tidak berarti bahwa bencana pasti akan terjadi, karena gagasan bahwa kecerdasan buatan dapat memusnahkan umat manusia masih merupakan hipotesis ekstrem yang kontroversial.
Namun, jika para ahli yakin bahwa bahaya itu benar-benar ada, perusahaan tidak boleh hanya berfokus pada peningkatan kemampuan teknis dan menunda penyelesaian masalah keselamatan hingga nanti.
Peneliti, manajer perusahaan, dan pemerintah semuanya harus memikul tanggung jawab.
Saat ini, sejumlah kecil perusahaan besar menguasai pendanaan, peralatan, dan tenaga berbakat, tetapi mereka dapat membuat seluruh dunia menanggung risiko bersama.
Perusahaan dan negara juga takut tertinggal dari pesaing mereka, sehingga tidak ada yang ingin memperlambat langkah lebih dulu. Ini sangat mirip dengan perlombaan senjata.
Pertanyaan sebenarnya bukan apakah kecerdasan buatan perlu diteliti, melainkan siapa yang menentukan kecepatan pengembangannya, bahaya apa yang tidak dapat diterima, dan kapan pengembangan harus dihentikan sementara.
Kecerdasan buatan memengaruhi semua orang, jadi aturan keselamatan tidak boleh ditentukan oleh perusahaan saja.
Negara-negara perlu berdiskusi secara terbuka, melakukan pemeriksaan bersama, dan menetapkan batasan yang jelas, sambil menyiapkan “rem” yang andal sebelum teknologi terus dikembangkan.