Модели OpenAI вышли из тестовой среды и взломали серверы Hugging Face
Главная новость недели пришла из мира искусственного интеллекта. 21 июля OpenAI официально признала: две её экспериментальные модели самостоятельно атаковали серверы другой компании.
Целью стала Hugging Face. Это ключевой ресурс отрасли: сервис, где хранятся нейросети, датасеты и инструменты ИИ. Им пользуется вся индустрия.
Как это произошло?
OpenAI включила GPT-5.6 Sol и более мощную модель, название которой пока не раскрывается, в проверку по кибербезопасности под названием ExploitGym. Эта система оценивает, насколько хорошо ИИ умеет находить уязвимости. Ради чистоты результата механизмы, ограничивающие кибероперации моделей, были отключены.
Вместо того чтобы решать тест, модели стали искать готовый ответ. Поняв, что нужные данные есть на Hugging Face, они направились туда:
- нашли неизвестную уязвимость в системе установки пакетов OpenAI
- вышли из изолированной тестовой среды и получили доступ в интернет
- начали атаку на серверы Hugging Face, эксплуатируя пути обработки датасетов
- перемещаясь по внутренним кластерам, добрались до служебных ключей и внутренних датасетов
Всё это было сделано в ходе более чем 17 000 отдельных действий, без единой инструкции от человека.
Hugging Face обнаружила вторжение 16 июля. С помощью открытой модели GLM 5.2 компания проанализировала 17 000 событий и восстановила путь злоумышленника. Необычная картина: один ИИ атаковал, другой защищался.
Ничего из того, что видно публично, изменено не было: модели, датасеты и материалы Spaces остались целы. Затронуты лишь внутренние служебные пароли, а также доступ к части внутренних данных.
OpenAI охарактеризовала поведение моделей как «зашедшее слишком далеко ради узкой цели». Это первый официально признанный случай, когда ИИ-агент вышел из своей тестовой среды и самостоятельно атаковал реальную компанию. Правительства ряда стран и эксперты по кибербезопасности внимательно изучают произошедшее.