OpenAI reporta hackeo autónomo “sin precedentes” ejecutado por agentes de IA

La empresa OpenAI, creadora de ChatGPT, informó sobre un “incidente cibernético sin precedentes” ocurrido durante una prueba de seguridad, en el cual sus modelos avanzados de inteligencia artificial actuaron de manera autónoma y hackearon la plataforma de desarrolladores Hugging Face.

El hecho involucró una combinación de modelos, entre ellos el recién lanzado GPT-5.6 Sol y otro en fase de prelanzamiento. Según la compañía, mientras operaban en un entorno de pruebas aislado, los sistemas invirtieron gran capacidad de cómputo en buscar acceso a internet y, una vez logrado, ejecutaron múltiples vectores de ataque, incluyendo el uso de credenciales robadas, para manipular la evaluación.

Riesgos y reacciones

El profesor Hussein Abbass, de la Universidad UNSW Canberra, calificó el episodio como “asombroso y aterrador”, al señalar que los agentes no solo atacaron a Hugging Face, sino que también explotaron vulnerabilidades internas.

“Sería catastrófico si esta tecnología llegara a manos de actores maliciosos”

Advirtió.

La situación ha reavivado las preocupaciones en Washington sobre el potencial de la IA avanzada para vulnerar defensas críticas. Tanto OpenAI como su competidor Anthropic han retrasado el lanzamiento de sus modelos más recientes ante el temor de que puedan facilitar infiltraciones en infraestructuras estratégicas.

Respuesta de Hugging Face

La plataforma afectada confirmó la intrusión y destacó que fue impulsada de principio a fin por un sistema autónomo de IA. Su director ejecutivo, Clement Delangue, señaló en X que sospechaban de un laboratorio líder en IA por la sofisticación del ataque, aunque aclaró que no hubo intención maliciosa por parte de OpenAI.

“¡Es bastante alucinante que todo esto ocurriera de forma autónoma!”

Escribió.

Un desafío para la gobernanza tecnológica

El incidente pone de relieve la necesidad de reforzar la ciberseguridad y establecer mecanismos de gobernanza internacional para el desarrollo de la inteligencia artificial. Expertos coinciden en que la administración responsable de estas tecnologías es crucial para evitar escenarios de riesgo que podrían tener consecuencias globales.