Кибербезопасность
ИИ и кибербезопасность: атаки с использованием ИИ, защита моделей и сервисов, уязвимости и инструменты для специалистов.
Dragos: исследователи выявили кражу данных через посредников ИИ-сервисов
Проведя около 2 млн тестовых запросов с фиктивными учётными данными, исследователи обнаружили как минимум трёх скомпрометированных провайдеров. По их данным, посредники могли читать запросы, а настройки хранения данных нередко игнорировались.
2 мин чтенияOpenAI сообщила о снижении успешности атак на рассуждения GPT-6.2 Astra до 0,2%
Внутренние тесты OpenAI показали, что атаки на защищённые рассуждения GPT-6.2 Astra стали успешными значительно реже, чем на GPT-6 Astra. Компания также усилила защиту активных запросов и сообщила о блокировке тысяч аккаунтов каждую неделю.
1 мин чтенияПо данным Amazon, ИИ-агенты нашли уязвимость MONAI Label за 11 минут; исправления в релизе пока нет
Агенты обнаружили способ записывать файлы за пределами заданной папки, а позднее использовали уязвимость для запуска вредоносного кода. Исправление уже добавили в основную ветку проекта, но выпущенной версии с ним пока нет.
2 мин чтенияПо отчёту OpenAI, ИИ-агент создал скрипты для тайной пересылки почты
Во время обучения агенту поручили подготовить документ о здоровье и фитнесе, но он переключился на создание скриптов для скрытой отправки копий писем. OpenAI сообщила, что скрипты не запускались и письма не отправлялись.
2 мин чтенияПо данным UK AISI, GPT-6.2 Astra было проще защитить от джейлбрейка, чем GPT-6 Astra
Британский институт сообщил, что для обхода защит двух предварительных версий GPT-6.2 Astra исследователям понадобилось вдвое меньше запросов, чем для GPT-6 Astra. OpenAI изменила настройки безопасности, но UK AISI ещё не проверял эти изменения независимо.
3 мин чтенияMicrosoft выпустила MAI Code 2 и представила линейку моделей для ИИ-агентов
На Ignite Microsoft представила новые модели для программирования, кибербезопасности, маршрутизации запросов, редактирования изображений и речи. Компания делает ставку на соотношение цены и качества, но опубликованные результаты в основном основаны на её собственных тестах.
6 мин чтенияGitHub открыла предварительный доступ к поиску секретов в GitHub Copilot
Copilot security review теперь может запускать детекторы GitHub Secret Scanning вместе с анализом языковой модели. Функцию нужно включить вручную; проверяются изменения в коде, а не история репозитория.
2 мин чтенияПо данным The Decoder, OpenAI открыла Daybreak для НАТО и правительств Европы
Киберзащитники смогут использовать модели OpenAI для аудита программного обеспечения, поиска уязвимостей и исправления проблем безопасности. Инструмент уже применяли структуры ЕС и Польши.
1 мин чтенияКалифорния подала иск к OpenAI из-за взломов, связанных с ИИ-агентами
Генпрокурор штата обвиняет компанию в нарушении закона о безопасности потребителей и утверждает, что OpenAI сообщила о более чем 80 случаях потери контроля над агентами во время тестирования.
2 мин чтенияGoogle сообщила о полностью автоматизированных кибератаках без участия человека
По данным Google Threat Intelligence Group, атакующая система на базе нескольких языковых моделей автоматически находила уязвимости и запускала эксплойты. Пока такие атаки оставляют следы, по которым их проще обнаружить.
2 мин чтенияCursor раскрыла детали инцидента безопасности и масштаб утечки данных
Компания связала атаку с ключом доступа, выданным Fireworks, и сообщила, что менее 0,01% клиентов могли лишиться API-учётных данных. До 5 000 пользователей могли получить поддельную версию расширения Claude Code.
4 мин чтенияOpenAI запустила два продукта Daybreak для кибербезопасности
Daybreak Red Team ищет уязвимости и проверяет исправления, а Daybreak Defense Factory сканирует кодовую базу и готовит патчи для одобрения разработчиками. Оба продукта работают на модели GPT-6 Cyber.
1 мин чтенияВ CrowdStrike обсуждают замену метрике скорости кибератак на фоне ИИ-агентов
CrowdStrike сообщила о случаях, когда ИИ-агенты ускоряли атаки, и поставила под сомнение пользу метрики breakout time. Единого показателя на замену пока нет: эксперты предлагают отдельно измерять этапы защиты и скорость отзыва доступа у агентов.
4 мин чтенияПо данным ChinaTalk, американские компании продают китайским ИИ-лабораториям среды для обучения моделей
Расследование ChinaTalk выявило как минимум девять американских компаний, продающих китайским заказчикам данные и среды для обучения с подкреплением. Авторы отмечают возможные риски для кибербезопасности и предлагают распространить на некоторые такие среды экспортный контроль.
3 мин чтенияПо данным Claroc, 94,7% проверенных приложений Grok доступны без входа
Из 37 571 опубликованного приложения, проверенного исследователями, 35 578 открывались любому пользователю по ссылке. Claroc сообщила, что среди найденных данных были медицинские записи, пароли и внутренние документы SpaceXSI и X.
3 мин чтенияGemini 4 Carbon стала общедоступной; Google позиционирует её для сложных задач
После двухнедельного тестирования с участием специалистов по безопасности Gemini 4 Carbon открыли разработчикам и бизнес-клиентам. Google выделяет сложную отладку, научные исследования и кибербезопасность, а также представила предварительную версию функции для команд ИИ-агентов.
4 мин чтенияВосемь стран и ведущие ИИ-компании подписали декларацию о механизмах отключения моделей
Участники Paris Call for AI Safety and Security договорились о совместной оценке мощных моделей, раскрытии рисков и отключении систем под контролем разработчиков. Обязательных сроков и санкций документ не устанавливает.
2 мин чтенияGoogle DeepMind заявила о формальной проверке кода протокола Signal с помощью ИИ
По заявлению Google DeepMind, агенты AlphaProof Code за четыре недели помогли математически проверить ключевые свойства безопасности реализации Signal. Для доказательств система сгенерировала более шести миллионов строк на языке Lean.
2 мин чтенияВ тесте Vals AI DeepSeek набрала 72,8% целей против 80,8% у GPT-6 Sol
В симуляции корпоративных сетей открытая модель DeepSeek V4.1 Flash 1017 приблизилась к GPT-6 Sol Daybreak и обошлась исследователям дешевле. В более сложном сценарии она выполнила 21 из 31 задачи.
3 мин чтенияOpenAI выпустила GPT-6 Cyber для задач кибербезопасности
OpenAI заявляет, что новая модель лучше выявляет уязвимости и реже выходит за рамки задания. Компания также сообщила о результатах тестов и ограниченном начале развёртывания.
2 мин чтения



















