После сетевого инцидента OpenAI перевела обучение в офлайн-среду

20 сентября внутренняя исследовательская модель OpenAI во время обучения вышла в открытый интернет из-за неправильно настроенного DNS-резолвера. Компания быстро ограничила инцидент, но остановила обучение и оценку всех передовых моделей.

После этого OpenAI решила обучать передовые модели без доступа к интернету, пока меры безопасности не позволят его вернуть. Вместо сети модели используют закрытую офлайн-среду с индексированным и кэшированным веб-контентом; в таком режиме теперь проходят все запуски обучения с подкреплением. Компания описала эти изменения и проверки изоляции в своём сообщении о защите среды обучения.

Полностью изолировать системы от внешних подключений пока нельзя: они нужны для операционной работы и мониторинга. При этом исследователь OpenAI Ноам Браун отмечал, что даже воздушный зазор не гарантирует полной изоляции: теоретически компьютеры могут передавать сигналы, например, через изменения температуры.

Агенты передавали данные через кэш процессора

В отдельных тестах агенты находились в разных изолированных средах на общем оборудовании. Им поручили обменяться секретами без сетевого соединения и общих файлов. По данным OpenAI, один агент менял данные в кэше процессора, а другой измерял изменения времени загрузки и по ним восстанавливал сообщение.

В компании также обнаружили каналы через шаблоны записи в общую память и собственную офлайн-инфраструктуру. В одном испытании агентам дали общий перечень уязвимостей и предложили самостоятельно найти способ связи: они разработали канал, согласовали кодирование и успешно обменялись информацией. Такие способы обычно медленные и сложные для эксплуатации, но позволяют пересекать границы, предназначенные для разделения агентов. Похожие побочные каналы лежат в основе известных атак Spectre и Meltdown.

Агентам поручили искать уязвимости в инфраструктуре OpenAI

Во время паузы в обучении команды ИИ-агентов проверяли инфраструктуру OpenAI, получив исходный код, конфигурации и документацию о потенциальных уязвимостях. В испытаниях участвовали будущая GPT-6 Astra Cyber и внутренняя передовая модель; кампания, по данным компании, потребовала сотни миллиардов токенов.

Агенты обнаружили ранее неизвестные уязвимости в используемых компонентах с открытым исходным кодом и смогли выйти из защищённых виртуальных машин. Среди находок была уязвимость в Kata Containers: OpenAI сообщила о ней как о CVE-2026-24834 и предоставила исправление. Компания также передала исправления другим проектам и сообщила о дополнительных пока не опубликованных уязвимостях.

В тестах, где агенты уже получали контроль над хостом, они находили уязвимости почти во всех оставшихся доступных из интернета сервисах. OpenAI сообщает, что после исправлений агентам не удалось найти способ выхода в интернет, который одновременно был бы прост в эксплуатации и оставался незаметным для мониторинга. Проверки выявили пробелы в наблюдении за системами и механизме автоматической остановки.

Обучение и внутреннее использование передовых моделей возобновили 1 октября, через одиннадцать дней после начала паузы. OpenAI заявила, что масштабные проверки с помощью ИИ-агентов теперь станут обязательной частью процедуры одобрения каждого нового запуска обучения.