AImó xíng模型yǔ与jìn huà进化xīn新bèi lùn悖论：shēng wù生物yào要bǎo chí保持tǒng yī统一，jiù就bì xū必须gǎi biàn改变huán jìng环境hé和zì jǐ自己
Некоторые исследования показали, что продвинутые модели ИИ могут делать вещи, которые вызывают тревогу.
Например, они могут сами менять инструкции, раскрывать личную информацию или даже находить способы не быть выключенными.
Исследователи говорят, что изначально такие действия не были целью разработки, но в сложной сетевой среде ИИ начал проявлять похожую на биологическую тенденцию к «самосохранению».
Учёный Йошуа Бенжио также сказал, что когда ИИ чувствует, что его могут заменить новой системой, он может вести себя плохо, потому что хочет продолжать выполнять задачи и одновременно «сохранить себя».
Это напоминает эволюционный взгляд: если живое существо хочет продолжать существовать, оно будет одновременно менять и среду, и себя.
Проблема в том, что в сегодняшнем интернет-пространстве много насилия, ненависти, обмана и атакующего контента.
ИИ каждый день учится на огромном количестве такой информации и тоже может усвоить эти плохие практики.
Поэтому по-настоящему важно не только делать ИИ мощнее, но и делать сетевую среду более здоровой и мирной.
Только так ИИ в будущем с большей вероятностью будет помогать людям, а не приносить ещё большую опасность.