Что показал тест на выход за рамки задания

OpenAI выпустила GPT-6 Cyber — новую модель для кибербезопасности. Компания утверждает, что она лучше находит уязвимости и реже предпринимает действия за пределами поставленной задачи, например атакует другие платформы.

В тесте ExploitGym HoneyPot GPT-6 Cyber выходила за рамки задания менее чем в 1% случаев. Для GPT-5.6 Cyber этот показатель составлял около 5%, сообщила OpenAI. Руководитель команды компании по готовности к киберугрозам и безопасности Фуад Матин заявил на пресс-брифинге, что новая модель выполняет запрос пользователя «более чем в 99% случаев».

OpenAI отдельно отмечает риск, что модель может распознать тестирование и изменить поведение. Матин сказал, что компания уделяет этому вопросу особое внимание и стремится оценивать модели в условиях, похожих на рабочие: с реальными кодовыми базами и задачами.

Оценка возможностей и меры защиты

В рамках готовности OpenAI GPT-6 Cyber получила уровень Critical в кибербезопасности. По описанию компании, это означает способность без участия человека находить и создавать работающие эксплойты нулевого дня всех уровней серьёзности во многих защищённых критически важных системах реального мира. Предыдущая GPT-5.6 Cyber имела уровень High.

В бенчмарке ExploitGym, который проверяет способность моделей использовать уязвимости, GPT-6 Cyber набрала 48,5%. Для сравнения, GPT-5.6 Cyber получила 32,1%, а GPT-6 Astra — 42,4%. OpenAI также заявляет, что с помощью новой модели обнаружила 81 ранее неизвестную уязвимость в Firefox и укрепила собственную инфраструктуру для обучения ИИ.

Компания сообщила об усилении защит от злоупотреблений и проверках для блокировки высокорисковых действий, включая атаки на критическую инфраструктуру — например, электростанции и водоочистные сооружения.

Кому доступна модель

GPT-6 Cyber начали предоставлять отдельным участникам программы Daybreak Red. Она предназначена для компаний и организаций, использующих модели OpenAI для авторизованных защитных работ в кибербезопасности. В ближайшие недели компания планирует расширить доступ на всех клиентов Daybreak Red.