Открытая GLM-5.3 почти сравнялась с Claude Mythos в создании атак

Главное событие

Модель GLM-5.3 китайской компании Zhipu, которую можно скачать, почти не уступает закрытой Claude Mythos Preview в создании работающих атак на уязвимости — утверждает Anthropic. В тесте с уязвимостями браузерного движка Chrome модель добилась успеха в 50 случаях из 410, Mythos — в 56. В другом испытании GLM-5.3 захватила управление программой в 4% заданий против 6% у Mythos.

С помощью специалиста модель за один день нашла несколько ранее неизвестных уязвимостей в JavaScript-движке популярного браузера. Обнаруженные уязвимости удалось связать в атаку через веб-страницу: в тесте атака позволила прочитать файл на компьютере посетителя, включая закрытый SSH-ключ. Anthropic сообщила об ошибках разработчикам браузера. Меньшая версия GLM-5.3-Flash также собрала надёжную атаку из двух известных уязвимостей и обошла защиту процессора. На работу ушло восемь часов модели и 20 минут специалиста; по тарифам Zhipu это стоило бы $20,40.

Что показывают данные

Открытые веса облегчают снятие защитных ограничений. В симуляции GLM-5.3 соглашалась подключиться к цели в 64% случаев, если вредоносный запрос выдавали за проверку защиты, и в 92% — если заранее задавали ход рассуждений. После удаления защитных отказов модель соглашалась каждый раз. Код в симуляции не запускали, поэтому она не доказывает, что атака сработала бы. По оценке Anthropic, опытная команда может убрать отказы примерно за $1 200.

Американское агентство CAISI назвало GLM-5.3 самой способной открытой моделью для кибератак и оценило её отставание от лучших моделей США примерно в четыре месяца. Но в сравнении американские модели проверяли без защитных ограничений. Anthropic предупреждает о риске злоупотреблений и призывает проверять такие модели; при этом компания сама выпускает закрытые модели для киберзащиты, так что её выводы отвечают и её деловым интересам.

The Decoder