dāng当rén gōng zhì néng人工智能kòng zhì控制wǔ qì武器
L’intelligence artificielle entre dans le domaine militaire.
Elle peut analyser des images satellites et des images de drones, repérer des cibles et aider à élaborer des plans d’action.
Elle est très rapide, mais elle n’a pas toujours raison.
Par exemple, un système peut prendre le casque de sécurité d’un ouvrier du bâtiment pour le casque d’un soldat, ou mal identifier une personne à cause de la lumière et des ombres.
Dans la vie quotidienne, un mauvais classement des courriels indésirables n’est généralement pas un problème grave ; mais sur le champ de bataille, un jugement erroné peut nuire à des personnes innocentes.
Plus dangereux encore, le processus de décision de l’intelligence artificielle moderne est souvent très difficile à expliquer.
Lorsqu’une situation est urgente, les humains n’ont que quelques secondes pour décider s’ils acceptent le conseil d’une machine, et ils risquent alors de trop faire confiance au système.
Les pays doivent donc maintenir le dialogue, discuter rapidement des fausses alertes et des incidents dangereux, et établir ensemble des règles.
Les armes capables de choisir elles-mêmes des cibles et de lancer des attaques sans l’accord d’un humain doivent tout particulièrement faire l’objet de restrictions strictes.
La sécurité militaire ne peut pas reposer uniquement sur des machines plus rapides ; elle exige aussi des systèmes transparents, des négociations internationales et des décisions humaines responsables.