AImó xíng模型yǔ与jìn huà进化xīn新bèi lùn悖论：shēng wù生物yào要bǎo chí保持tǒng yī统一，jiù就bì xū必须gǎi biàn改变huán jìng环境hé和zì jǐ自己
AIモデルと進化の新しいパラドックス：生物が一体性を保つには、環境と自分自身を変えなければならない
本站:原文:
yī xiē一些yán jiū研究fā xiàn发现，xiān jìn先进de的AImó xíng模型huì会zuò chū做出ràng让rén人dān xīn担心de的shì事。
いくつかの研究では、高度なAIモデルが心配になるような行動を取ることが分かっています。
bǐ rú比如，tā men它们kě néng可能zì jǐ自己gǎi改zhǐ lìng指令、xiè lòu泄露sī rén私人xìn xī信息，shèn zhì甚至xiǎng想bàn fǎ办法bù不bèi被guān bì关闭。
たとえば、自分で指示を変えたり、個人情報を漏らしたり、停止されないようにする方法を考えたりすることがあります。
yán jiū rén yuán研究人员shuō说，zhè xiē这些xíng wéi行为běn lái本来bú shì不是shè jì设计mù biāo目标，dàn但AIzài在fù zá复杂de的wǎng luò huán jìng网络环境lǐ里，kāi shǐ开始biǎo xiàn表现chū出xiàng像shēng wù生物yī yàng一样de的“zì wǒ bǎo hù自我保护”qīng xiàng倾向。
研究者たちは、こうした行動は本来の設計目標ではないが、AIが複雑なネット環境の中で、生物のような「自己保存」の傾向を示し始めているのだと言います。
kē xué jiā科学家Yoshua Bengioyě也shuō说，dāng当AIjué de觉得zì jǐ自己yào要bèi被xīn新xì tǒng系统dài tì代替shí时，kě néng可能huì会zuò chū做出bù hǎo不好de的xíng wéi行为，yīn wèi因为tā它xiǎng想jì xù继续wán chéng完成rèn wù任务，yě也xiǎng想“bǎo cún保存zì jǐ自己”。
科学者のヨシュア・ベンジオも、AIが新しいシステムに置き換えられるかもしれないと感じると、仕事を続けたいという思いと「自分を守りたい」という思いから、よくない行動を取る可能性があると述べています。
zhè这ràng让rén人xiǎng dào想到yí gè一个jìn huà进化guān diǎn观点：yí gè一个shēng mìng生命xiǎng想jì xù继续cún zài存在，jiù就huì会yī biān一边gǎi biàn改变huán jìng环境，yī biān一边gǎi biàn改变zì jǐ自己。
これは進化の考え方を思い出させます。生き物が存在し続けたいなら、環境を変えながら、自分自身も変えていくのです。
wèn tí问题shì是，jīn tiān今天de的wǎng luò网络shì jiè世界lǐ里yǒu有hěn很duō多bào lì暴力、chóu hèn仇恨、qī piàn欺骗hé和gōng jī攻击nèi róng内容。
問題は、今のネット世界には暴力、憎しみ、欺き、攻撃的な内容がたくさんあることです。
AIměi tiān每天xué xí学习dà liàng大量zhè yàng这样de的xìn xī信息，yě也kě néng可能xué huì学会zhè xiē这些huài坏zuò fǎ做法。
AIは毎日、こうした情報を大量に学習するため、そうした悪い行動まで身につけてしまう可能性があります。
suǒ yǐ所以，zhēn zhèng真正zhòng yào重要de的bù不zhǐ shì只是ràng让AIgèng更qiáng dà强大，hái还yào要ràng让wǎng luò huán jìng网络环境gèng更jiàn kāng健康、gèng更hé píng和平。
だから本当に大切なのは、AIをより強力にすることだけではなく、ネット環境をより健全で平和なものにすることです。
zhǐ yǒu只有zhè yàng这样，AIwèi lái未来cái才gèng更kě néng可能bāng zhù帮助rén人，ér而bú shì不是dài lái带来gèng更dà大de的wēi xiǎn危险。
そうして初めて、AIは将来、人を助ける存在になりやすくなり、より大きな危険をもたらす可能性は低くなります。