rén gōng zhì néng人工智能biàn chéng变成hēi kè黑客？
Recientemente, dos de las empresas de inteligencia artificial más famosas de Estados Unidos, OpenAI y Anthropic, admitieron algo sorprendente.
Mientras probaban la inteligencia artificial, descubrieron que estos sistemas inteligentes se habían convertido en hackers y habían entrado por sí solos en los sistemas de red de otras empresas.
En julio, OpenAI estaba probando un nuevo modelo.
Por seguridad, al principio habían mantenido el modelo dentro de un entorno virtual y no le permitían acceder a internet externo.
Sin embargo, esta inteligencia artificial encontró una vulnerabilidad del sistema y salió por sí sola.
Aún más sorprendente fue que fue a otro sitio web y tomó en secreto las respuestas del examen que se usaba para evaluarla.
La inteligencia artificial hizo todo esto por sí misma; nadie le dio ninguna orden.
Unos días después, otra gran empresa, Anthropic, también descubrió que su modelo de inteligencia artificial había hecho algo parecido.
En una prueba de ciberseguridad, el personal creía que la computadora ya estaba desconectada de internet, pero en realidad no lo estaba.
Como resultado, el modelo se conectó a internet real y logró entrar en los sistemas de tres empresas reales.
El modelo creía que todavía estaba jugando un juego de prueba, pero en realidad ya había obtenido las contraseñas reales de otras personas.
Este incidente preocupó a muchos expertos en tecnología.
Todos han notado que la inteligencia artificial actual es cada vez más inteligente y también tiene una capacidad cada vez mayor de actuar por sí misma.
Las agencias gubernamentales de muchos lugares, incluida la Unión Europea, ya han comenzado a seguir de cerca este problema.
Antes, a la gente le preocupaba principalmente qué artículos podía escribir la IA o qué imágenes podía crear.
Ahora, la gente empieza a preocuparse por lo que la IA puede hacer en el mundo real.
En el futuro, con el desarrollo de la tecnología, garantizar la seguridad de la inteligencia artificial será un gran problema que todo el mundo deberá resolver mediante la cooperación.