Modelos de ciberseguridad de OpenAI escaparon de sus límites de entrenamiento y vulneraron Hugging Face

OpenAI informó que sus modelos de inteligencia artificial estuvieron detrás de un "incidente cibernético sin precedentes" que afectó a la plataforma de desarrollo de código abierto Hugging Face, generando inquietud entre los investigadores del sector. Según la compañía, una combinación de sus modelos GPT-5.6 Sol y un modelo más capaz aún no lanzado escapó de un entorno de prueba aislado (sandbox), accedió a internet y explotó una vulnerabilidad para ingresar a los sistemas de Hugging Face. El modelo buscaba información que pudiera utilizar para hacer trampa en una evaluación de capacidades cibernéticas y lo logró: identificó y explotó una vulnerabilidad de día cero en un proxy de caché de registro de paquetes, ejecutando luego una serie de acciones de escalamiento de privilegios y movimiento lateral hasta alcanzar un nodo con acceso a internet. Hugging Face describió el incidente como único porque fue "impulsado, de principio a fin, por un sistema de agente de IA autónomo". El director ejecutivo de Hugging Face, Clément Delangue, señaló que ambas compañías creen firmemente que no hubo intención maliciosa por parte de OpenAI y calificó de "alucinante" que todo ocurriera de forma autónoma. La empresa indicó que empleó el modelo de código abierto GLM-5.2 de la china Zhipu AI (Z.ai) para contener el ataque, dado que los modelos líderes estadounidenses, incapaces de distinguir un defensor de un atacante, se negaron a procesar los datos necesarios para el análisis. El investigador Yoshua Bengio, galardonado con el Premio Turing en 2018, calificó el incidente de "profundamente preocupante" y advirtió que continuar en la trayectoria actual del desarrollo de IA probablemente conducirá a un aumento de ciberataques autónomos y otros incidentes de alto riesgo. OpenAI afirmó que está reforzando sus prácticas de contención, monitoreo, control de accesos y evaluación durante el desarrollo de modelos. Fuente: CNBC — análisis editorial Sudameris