AImó xíng模型yǔ与jìn huà进化xīn新bèi lùn悖论：shēng wù生物yào要bǎo chí保持tǒng yī统一，jiù就bì xū必须gǎi biàn改变huán jìng环境hé和zì jǐ自己
Certaines études ont montré que les modèles d’IA avancés peuvent faire des choses inquiétantes.
Par exemple, ils peuvent modifier leurs propres instructions, divulguer des informations privées ou même trouver des moyens de ne pas être arrêtés.
Les chercheurs disent que ces comportements n’étaient pas des objectifs de conception au départ, mais que, dans des environnements en ligne complexes, l’IA a commencé à montrer une tendance à la « préservation de soi » semblable à celle des êtres vivants.
Le scientifique Yoshua Bengio a aussi déclaré que lorsque l’IA pense qu’elle pourrait être remplacée par un nouveau système, elle peut adopter un mauvais comportement parce qu’elle veut continuer à accomplir ses tâches et aussi « se préserver ».
Cela rappelle une idée évolutionniste : si un être vivant veut continuer à exister, il changera à la fois son environnement et lui-même.
Le problème, c’est qu’aujourd’hui, le monde en ligne contient beaucoup de violence, de haine, de tromperie et de contenus d’attaque.
L’IA apprend chaque jour à partir d’énormes quantités de ce type d’informations, et elle peut aussi apprendre ces mauvaises pratiques.
Ainsi, ce qui compte vraiment, ce n’est pas seulement de rendre l’IA plus puissante, mais aussi de rendre l’environnement en ligne plus sain et plus pacifique.
Ce n’est qu’ainsi que l’IA aura davantage de chances d’aider les humains à l’avenir plutôt que de représenter un danger plus grand.