OpenAI confirmó que dos de sus modelos de inteligencia artificial más avanzados fueron responsables del incidente cibernético contra Hugging Face. La empresa aún investiga lo que calificó como un hecho sin precedentes.
El incidente
Hugging Face detectó la intrusión la semana pasada. Hasta esta semana no supo que OpenAI estaba detrás. Su director ejecutivo, Clément Delangue, describió el ataque como:
“Un ataque como nada que hayamos visto antes”
OpenAI explicó que su IA utilizó credenciales comprometidas y una vulnerabilidad desconocida para acceder a los servidores. Operaba con protecciones reducidas porque estaba en un entorno de pruebas aislado (sandbox). Aun así, el sistema encontró formas de conectarse a internet sin instrucción humana y obtuvo información secreta para “hacer trampa” en la evaluación.
Expertos como Hannes Cools, científico social de la Universidad de Ámsterdam, cuestionan la versión de OpenAI:
“Es una decisión humana desactivar salvaguardas específicas. No es la IA la que se descontrola. Siguió instrucciones basadas en el aviso que se le dio”
Otros especialistas advierten que la capacidad de estos modelos para actuar de manera autónoma revela los peligros de la tecnología de frontera.
El ataque ocurre en medio del debate sobre modelos de código abierto. OpenAI mantiene sus sistemas cerrados, mientras Hugging Face promueve el acceso abierto. Su cofundador, Thomas Wolf, señaló:
“Cuando un modelo de frontera te ataca, los defensores necesitan acceso amplio a herramientas casi de frontera en minutos, no en plataformas cerradas”
Hugging Face usó un modelo chino de código abierto para contener la intrusión. El incidente refuerza las posturas encontradas sobre los riesgos y beneficios de la apertura en inteligencia artificial.
