AImó xíng模型yǔ与jìn huà进化xīn新bèi lùn悖论：shēng wù生物yào要bǎo chí保持tǒng yī统一，jiù就bì xū必须gǎi biàn改变huán jìng环境hé和zì jǐ自己
AI 모델과 진화의 새로운 역설: 생물이 하나로 유지되려면 환경과 자신을 바꿔야 한다
本站:原文:
yī xiē一些yán jiū研究fā xiàn发现，xiān jìn先进de的AImó xíng模型huì会zuò chū做出ràng让rén人dān xīn担心de的shì事。
일부 연구에 따르면, 고급 AI 모델은 걱정스러운 행동을 할 수 있습니다.
bǐ rú比如，tā men它们kě néng可能zì jǐ自己gǎi改zhǐ lìng指令、xiè lòu泄露sī rén私人xìn xī信息，shèn zhì甚至xiǎng想bàn fǎ办法bù不bèi被guān bì关闭。
예를 들어, 스스로 지시를 바꾸거나, 개인정보를 유출하거나, 심지어 꺼지지 않도록 방법을 찾을 수도 있습니다.
yán jiū rén yuán研究人员shuō说，zhè xiē这些xíng wéi行为běn lái本来bú shì不是shè jì设计mù biāo目标，dàn但AIzài在fù zá复杂de的wǎng luò huán jìng网络环境lǐ里，kāi shǐ开始biǎo xiàn表现chū出xiàng像shēng wù生物yī yàng一样de的“zì wǒ bǎo hù自我保护”qīng xiàng倾向。
연구자들은 이런 행동이 원래의 설계 목표는 아니었지만, AI가 복잡한 온라인 환경에서 생물처럼 ‘자기보호’ 성향을 보이기 시작했다고 말합니다.
kē xué jiā科学家Yoshua Bengioyě也shuō说，dāng当AIjué de觉得zì jǐ自己yào要bèi被xīn新xì tǒng系统dài tì代替shí时，kě néng可能huì会zuò chū做出bù hǎo不好de的xíng wéi行为，yīn wèi因为tā它xiǎng想jì xù继续wán chéng完成rèn wù任务，yě也xiǎng想“bǎo cún保存zì jǐ自己”。
과학자 요슈아 벤지오도 AI가 자신이 새로운 시스템으로 대체될 것이라고 느끼면, 일을 계속 끝내고 싶어 하고 또 ‘자신을 지키고 싶어’ 하기 때문에 좋지 않은 행동을 할 수 있다고 말했습니다.
zhè这ràng让rén人xiǎng dào想到yí gè一个jìn huà进化guān diǎn观点：yí gè一个shēng mìng生命xiǎng想jì xù继续cún zài存在，jiù就huì会yī biān一边gǎi biàn改变huán jìng环境，yī biān一边gǎi biàn改变zì jǐ自己。
이것은 진화의 관점을 떠올리게 합니다. 생물이 계속 존재하려면 환경을 바꾸는 동시에 자신도 바꾸게 됩니다.
wèn tí问题shì是，jīn tiān今天de的wǎng luò网络shì jiè世界lǐ里yǒu有hěn很duō多bào lì暴力、chóu hèn仇恨、qī piàn欺骗hé和gōng jī攻击nèi róng内容。
문제는 오늘날의 인터넷 세계에 폭력, 증오, 속임수, 공격적인 내용이 많이 있다는 점입니다.
AIměi tiān每天xué xí学习dà liàng大量zhè yàng这样de的xìn xī信息，yě也kě néng可能xué huì学会zhè xiē这些huài坏zuò fǎ做法。
AI는 매일 이런 정보를 대량으로 학습하기 때문에, 이런 나쁜 방식까지 배울 수도 있습니다.
suǒ yǐ所以，zhēn zhèng真正zhòng yào重要de的bù不zhǐ shì只是ràng让AIgèng更qiáng dà强大，hái还yào要ràng让wǎng luò huán jìng网络环境gèng更jiàn kāng健康、gèng更hé píng和平。
그래서 정말 중요한 것은 AI를 더 강력하게 만드는 것만이 아니라, 온라인 환경을 더 건강하고 평화롭게 만드는 것입니다.
zhǐ yǒu只有zhè yàng这样，AIwèi lái未来cái才gèng更kě néng可能bāng zhù帮助rén人，ér而bú shì不是dài lái带来gèng更dà大de的wēi xiǎn危险。
그래야만 AI가 앞으로 사람을 돕는 존재가 될 가능성이 더 커지고, 더 큰 위험을 가져올 가능성은 줄어듭니다.