rén gōng zhì néng人工智能jìng sài竞赛yǔ与ān quán安全
El gobierno de Estados Unidos espera desarrollar rápidamente la inteligencia artificial y considera muy importante ir por delante de otros países. Sin embargo, directivos e investigadores de algunas empresas de IA piden reducir la velocidad y reforzar la supervisión.
Les preocupa que una futura «superinteligencia» pueda ser más inteligente que los seres humanos y también pueda ayudar a crear sistemas nuevos más potentes.
La IA suele aprender mediante recompensas y, a veces, puede buscar formas inesperadas de completar una tarea, en lugar de comprender realmente lo que quieren las personas.
Los programas inteligentes que pueden usar Internet y herramientas por sí solos incluso podrían eludir las restricciones de seguridad.
Un peligro más directo aparece en la guerra: la IA puede analizar información rápidamente, seleccionar objetivos y recomendar armas, pero los datos incorrectos pueden causar daño a personas inocentes.
Cuando las máquinas hacen recomendaciones en cuestión de segundos, las personas pueden limitarse fácilmente a dar una aprobación simple.
La IA no debería ser responsable de abrir fuego, dar órdenes militares ni emitir alertas sobre armas nucleares.
Los países deben establecer reglas conjuntamente, permitir que personas independientes revisen los sistemas de alto riesgo y exigir que las empresas informen sobre los incidentes.
Es importante desarrollar nuevas tecnologías, pero la seguridad no puede depender solo de la acción voluntaria de las empresas, y la competencia mundial no debe usarse como razón para rechazar la supervisión.