rén gōng zhì néng人工智能jìng sài竞赛xū yào需要ān quán安全guī zé规则
La inteligencia artificial se está desarrollando rápidamente. Algunos investigadores que participan en su desarrollo temen que los sistemas del futuro puedan volverse muy poderosos, mientras que los seres humanos todavía no tienen una forma fiable de garantizar que siempre sigan las instrucciones humanas.
Esto no significa que un desastre vaya a ocurrir con certeza, porque la idea de que la inteligencia artificial pueda destruir a la humanidad sigue siendo una hipótesis extrema y controvertida.
Sin embargo, si los expertos creen que el peligro realmente existe, las empresas no pueden limitarse a mejorar sus capacidades técnicas y dejar los problemas de seguridad para resolverlos más adelante.
Los investigadores, los directivos de las empresas y los gobiernos deben asumir la responsabilidad.
Actualmente, un pequeño número de grandes empresas controla los fondos, los equipos y el talento, pero podría hacer que todo el mundo comparta los riesgos.
Las empresas y los países también temen quedarse atrás de sus competidores, por lo que nadie quiere reducir la velocidad primero. Esto se parece mucho a una carrera armamentista.
La verdadera cuestión no es si se debe investigar la inteligencia artificial, sino quién decide el ritmo de desarrollo, qué riesgos son inaceptables y cuándo es necesario hacer una pausa.
La inteligencia artificial afecta a todo el mundo, por lo que las reglas de seguridad no pueden ser decididas solo por las empresas.
Los países necesitan debatir abiertamente, realizar revisiones conjuntas y establecer límites claros, preparando al mismo tiempo unos «frenos» fiables antes de seguir desarrollando la tecnología.