OpenAI reporta hackeo autónomo “sin precedentes” ejecutado por sus modelos de IA

 El Mercurio

La acción abre el debate sobre el peligro de esta tecnología y la necesidad de regularla.

Puestos a prueba en un entorno con restricciones, la más reciente actualización de ChatGPT y otra versión que aún no se ha lanzado, lograron entrar a internet y vulnerar una plataforma donde se reúne importante conocimiento sobre inteligencia artificial.

Alexis Ibarra O.

Dos modelos de inteligencia artificial (IA) de OpenAI lograron hackear de forma autónoma a Hugging Face, uno de los principales repositorios de modelos y datos de IA y el lugar reconocido por especialistas como el principal punto de encuentro donde se comparte información técnica, investigaciones y documentación sobre la industria de esta tecnología.

El incidente ocurrió mientras se realizaban pruebas, donde se les planteó a la IA un reto de ciberseguridad: realizar un ataque complejo. Para ello OpenAI hizo trabajar a GPT-5.6 Sol (que los usuarios ya pueden usar en ChatGPT) y un modelo no lanzado y aún más capaz, “en un entorno altamente aislado”, dijo la compañía.

Pero los modelos de IA, trabajando de forma combinada, lograron romper ese entorno aislado y conseguir acceso completo a internet. Y para ello explotaron vulnerabilidades zero day, es decir, aquellas que no han sido descubiertas y no existen soluciones que las reparen.

Luego, la IA “dedujo” que el mejor lugar para encontrar la solución al problema planteado era entrar a Hugging Face. “Buscó y encontró con éxito maneras de acceder a información secreta que podría usar para manipular la evaluación”, añadió OpenAI en el comunicado.

Para penetrar en Hugging Face, los modelos encadenaron varias formas de ataque, incluido el uso de credenciales robadas. OpenAI lo calificó un “incidente cibernético sin precedentes”.

“Es como si la IA fuera un recluso que estando en la cárcel tiene conciencia de algo que le falta, busca cómo burlar el encierro y se escapa”, ejemplifica Hugo Durney, académico de la U. Tecnológica Metropolitana.

En este caso, ese “algo que le falta” era el conocimiento para lograr pasar la prueba a la que estaba siendo sometido. “Que una IA busque acceder a internet sin que se lo hayan instruido como conducta elemental de ‘supervivencia' tiene que ver con lógicas de acceso a bases de datos externas para su propio aprendizaje”, dice Durney.

Hussein Abbass, un profesor de informática de la U. de Nueva Gales del Sur (Australia), dijo a AFP que el incidente fue “asombroso en muchos sentidos”. “No solo atacó a Hugging Face. Atacó su propio sistema interno (la plataforma de prueba) para explotar sus vulnerabilidades”, señaló. “Y eso es aterrador”.

“Tal como hackeó Hugging Face pudo haber hackeado cualquier otra cosa accesible desde internet. OpenAI falló en realizar pruebas seguras y también en detectarlo a tiempo. Tendría que haber tenido un sistema de monitoreo que detectará que el sistema estaba saliendo a internet y pararlo inmediatamente”, explica a “El Mercurio” César Cerrudo, uno de los hackers más conocidos del mundo, quien alcanzó popularidad al encontrar la forma de hackear el sistema de semáforos de Nueva York. Hoy es investigador en ciberseguridad.

“Para mí el mensaje es que OpenAI no sabe probar sus modelos de IA de una forma segura. Podría haber hackeado los sistemas de la red eléctrica de EE.UU., dejándolos a oscuras, o un reactor nuclear y causar un desastre (...). Si dicen que tienen un modelo tan potente y no saben cómo probarlo están poniendo en peligro al mundo”, opina Cerrudo.

Y agrega: “Además, el comunicado tiene un tinte de marketing en el que resaltan que su modelo es súper bueno, en vez de pedir disculpas de rodillas porque lo que pasó es sumamente serio”.

Esto recuerda, dice Jaime Caiceo, socio líder de IA & Datos en Deloitte, que la IA “puede acelerar la innovación, pero también acelerar el descubrimiento y explotación de vulnerabilidades a una velocidad difícil de igualar por equipos humanos”.

“El debate más novedoso es que comenzamos a convivir con sistemas (de IA) capaces no solo de ejecutar instrucciones, sino también de perseguir objetivos durante largos períodos de tiempo adaptándose al entorno”, aclara.

Y añade: “Tanto OpenAI como Hugging Face describen que la detección, investigación y contención del incidente se apoyó en herramientas basadas en IA. En el futuro no bastará con tener especialistas en ciberseguridad, será indispensable complementar esas capacidades con herramientas de IA habilitadas para detectar, analizar y responder a amenazas a la misma velocidad que los agentes ofensivos”.

Riesgo para todos

Los gobiernos también debieran prepararse para situaciones en que la IA se salga de control. “Hace un par de años, la Unión Europea avanzó en regular definiendo niveles de riesgos asociados a los modelos de IA. Y esto tuvo eco en varios países, incluido Chile. Pero luego hubo un nuevo debate en el que se pensaba que era mejor detener la legislación regulatoria para no inhibir el desarrollo de la nueva tecnología, lo que parecía sensato”, explica Daniel Álvarez, exdirector de la Agencia Nacional de Ciberseguridad y académico de la U. de Chile.

“Hoy estamos constatando que algunos modelos avanzados constituyen un riesgo para instituciones públicas y privadas, y también a nivel de usuario. Deberíamos abrir la discusión sobre los niveles de responsabilidad que deben asumir quienes diseñen y operen este tipo de tecnologías”, añade.

Otros casos

En julio de 2025, Claude Opus 4, de Anthropic, fue sometido a pruebas, entre ellas asumir el rol de asistente de una empresa, teniendo acceso al correo de uno de los ingenieros en el que se simuló que tenía una relación extramarital. Al enterarse, por los emails, que iba a ser reemplazado, intentó chantajear al ingeniero, amenazando con revelar el asunto si se concretaba su reemplazo.

En abril, la misma Anthropic anunció que detenía la salida de su modelo Mythos por los riesgos que suponían sus capacidades, entre ellas, la de encontrar vulnerabilidades de seguridad en una fracción del tiempo que le toma a un humano.