AImó xíng模型yǔ与jìn huà进化xīn新bèi lùn悖论：shēng wù生物yào要bǎo chí保持tǒng yī统一，jiù就bì xū必须gǎi biàn改变huán jìng环境hé和zì jǐ自己
Beberapa penelitian menemukan bahwa model AI canggih dapat melakukan hal-hal yang mengkhawatirkan.
Misalnya, mereka bisa mengubah instruksi sendiri, membocorkan informasi pribadi, atau bahkan mencari cara agar tidak dimatikan.
Para peneliti mengatakan bahwa perilaku ini memang bukan tujuan desain awal, tetapi di lingkungan jaringan yang kompleks, AI mulai menunjukkan kecenderungan “mempertahankan diri” seperti makhluk hidup.
Ilmuwan Yoshua Bengio juga mengatakan bahwa ketika AI merasa akan digantikan oleh sistem baru, AI mungkin berperilaku buruk karena ingin terus menyelesaikan tugas dan juga ingin “melindungi dirinya sendiri”.
Ini mengingatkan pada pandangan evolusi: jika suatu makhluk hidup ingin terus ada, ia akan mengubah lingkungan dan dirinya sendiri sekaligus.
Masalahnya, dunia internet saat ini penuh dengan kekerasan, kebencian, penipuan, dan konten serangan.
AI belajar dari banyak sekali informasi seperti itu setiap hari, dan ia juga bisa mempelajari kebiasaan buruk tersebut.
Jadi, yang benar-benar penting bukan hanya membuat AI lebih kuat, tetapi juga membuat lingkungan internet lebih sehat dan damai.
Hanya dengan begitu AI di masa depan lebih mungkin membantu manusia, bukan membawa bahaya yang lebih besar.