rén gōng zhì néng人工智能jìng sài竞赛xū yào需要ān quán安全guī zé规则
L’intelligence artificielle se développe rapidement. Certains chercheurs qui participent à son développement craignent que les futurs systèmes ne deviennent très puissants, alors que les humains ne disposent toujours pas de moyens fiables pour garantir qu’ils suivront toujours les consignes humaines.
Cela ne signifie pas qu’une catastrophe se produira forcément, car l’idée que l’intelligence artificielle puisse détruire l’humanité reste une hypothèse extrême et controversée.
Cependant, si les experts estiment que le danger existe réellement, les entreprises ne peuvent pas se contenter d’améliorer leurs capacités techniques et remettre les questions de sécurité à plus tard.
Les chercheurs, les dirigeants d’entreprise et les gouvernements doivent tous assumer leurs responsabilités.
Aujourd’hui, un petit nombre de grandes entreprises contrôlent les financements, les équipements et les talents, mais elles pourraient faire porter les risques au monde entier.
Les entreprises et les pays craignent aussi de prendre du retard sur leurs concurrents, alors personne ne veut ralentir le premier. Cela ressemble beaucoup à une course aux armements.
La vraie question n’est pas de savoir s’il faut faire de la recherche sur l’intelligence artificielle, mais qui décide du rythme de développement, quels dangers sont inacceptables et quand il faut impérativement faire une pause.
L’intelligence artificielle touche tout le monde, donc les règles de sécurité ne peuvent pas être décidées par les entreprises seules.
Les pays doivent en discuter ouvertement, mener des contrôles conjoints et établir des limites claires, tout en préparant des « freins » fiables avant de poursuivre le développement technologique.