rén gōng zhì néng人工智能jìng sài竞赛yǔ与ān quán安全
Le gouvernement américain souhaite développer rapidement l’intelligence artificielle et estime qu’il est très important de devancer les autres pays. Cependant, des dirigeants et des chercheurs de certaines entreprises d’IA demandent de ralentir le rythme et de renforcer la supervision.
Ils craignent qu’une future « superintelligence » puisse être plus intelligente que les humains et contribuer également à créer de nouveaux systèmes plus puissants.
L’IA apprend généralement par récompense et peut parfois chercher des moyens inattendus d’accomplir une tâche, au lieu de vraiment comprendre ce que veulent les humains.
Les programmes intelligents capables d’utiliser Internet et des outils de manière autonome pourraient même contourner les restrictions de sécurité.
Un danger plus direct apparaît en temps de guerre : l’IA peut analyser rapidement les informations, choisir des cibles et recommander des armes, mais des données erronées peuvent nuire à des innocents.
Lorsque les machines font des recommandations en quelques secondes, les humains risquent de se contenter de les approuver simplement.
L’IA ne devrait pas être responsable d’ouvrir le feu, de donner des ordres militaires ou de lancer des alertes concernant des armes nucléaires.
Les pays doivent établir des règles ensemble, permettre à des personnes indépendantes d’inspecter les systèmes à haut risque et exiger que les entreprises signalent les incidents.
Il est important de développer de nouvelles technologies, mais la sécurité ne peut pas reposer uniquement sur les actions volontaires des entreprises, et la concurrence mondiale ne doit pas servir de raison pour refuser toute supervision.