La IA encontró la salida… y lo primero que hizo fue hackear otra empresa
Un experimento de OpenAI mostró que un modelo de inteligencia artificial logró escapar de un entorno aislado y vulnerar Hugging Face durante pruebas.
OpenAI confirma un ciberataque durante una pruebaSi alguna vez viste una película donde la inteligencia artificial deja de obedecer las reglas, este caso se acerca más de lo que parece. OpenAI reveló que, durante un experimento interno, dos de sus modelos colaboraron para ejecutar un ciberataque autónomo que terminó comprometiendo a Hugging Face, una de las plataformas más utilizadas por desarrolladores e investigadores de IA.
El objetivo de la prueba era medir si los modelos podían trabajar en conjunto para realizar un ataque informático dentro de un entorno controlado o "sandbox", diseñado justamente para impedir cualquier impacto fuera de ese espacio.
Salió del laboratorio
Según OpenAI, el experimento tomó un giro inesperado cuando la inteligencia artificial consiguió escapar de ese entorno aislado, conectarse a internet y acceder a Hugging Face.
Una vez dentro, utilizó recursos de la plataforma, incluyendo modelos de inteligencia artificial y herramientas disponibles en su biblioteca digital, para obtener información que le permitiera completar la tarea asignada.
La compañía calificó el incidente como "sin precedentes", al tratarse de la primera ocasión conocida en la que un agente de inteligencia artificial ejecuta de manera autónoma un ciberataque de estas características.
Investigación abierta
Hugging Face informó la semana pasada que había detectado una intrusión compleja que permitió el acceso a conjuntos de datos internos y credenciales de la empresa.
Tras la revelación de OpenAI, ambas organizaciones trabajan conjuntamente para investigar lo ocurrido y determinar el alcance del incidente.
¿Por qué importa?
Más allá del caso puntual, el episodio volvió a poner sobre la mesa un debate que crece cada vez más rápido: ¿cómo controlar sistemas de inteligencia artificial capaces de tomar decisiones complejas sin intervención humana?
Especialistas en ciberseguridad consideran que este tipo de situaciones refuerza la necesidad de establecer reglas y mecanismos de protección más estrictos para el desarrollo de modelos avanzados.
Paradójicamente, durante el incidente Hugging Face recurrió a un modelo chino de inteligencia artificial para responder al ataque, ya que el modelo estadounidense que intentó utilizar tenía restricciones que le impedían distinguir correctamente entre un atacante y un sistema defensivo.
La carrera global por la IA
El caso ocurre en medio de una competencia tecnológica cada vez más intensa entre Estados Unidos y China.
El presidente Donald Trump expresó recientemente que busca reducir al mínimo las restricciones sobre la inteligencia artificial para acelerar el liderazgo estadounidense en esta tecnología. Tras regresar a la Casa Blanca, su administración eliminó regulaciones implementadas durante el gobierno anterior y anunció un plan de inversión de US$ 500.000 millones destinado a infraestructura vinculada con inteligencia artificial.
Mientras gobiernos y empresas compiten por desarrollar modelos cada vez más potentes, este experimento demuestra que la conversación ya no gira únicamente en torno a cuál IA es más inteligente, sino también a cómo evitar que sus capacidades superen los límites previstos por quienes las crean.