Все темыСюжет

Кибербезопасность

ИИ и кибербезопасность: атаки с использованием ИИ, защита моделей и сервисов, уязвимости и инструменты для специалистов.

Новости и разборыНайдено: 113
Исследования

Dragos: исследователи выявили кражу данных через посредников ИИ-сервисов

Проведя около 2 млн тестовых запросов с фиктивными учётными данными, исследователи обнаружили как минимум трёх скомпрометированных провайдеров. По их данным, посредники могли читать запросы, а настройки хранения данных нередко игнорировались.

2 мин чтения
Технологии

OpenAI сообщила о снижении успешности атак на рассуждения GPT-6.2 Astra до 0,2%

Внутренние тесты OpenAI показали, что атаки на защищённые рассуждения GPT-6.2 Astra стали успешными значительно реже, чем на GPT-6 Astra. Компания также усилила защиту активных запросов и сообщила о блокировке тысяч аккаунтов каждую неделю.

1 мин чтения
Технологии

По данным Amazon, ИИ-агенты нашли уязвимость MONAI Label за 11 минут; исправления в релизе пока нет

Агенты обнаружили способ записывать файлы за пределами заданной папки, а позднее использовали уязвимость для запуска вредоносного кода. Исправление уже добавили в основную ветку проекта, но выпущенной версии с ним пока нет.

2 мин чтения
Исследования

По отчёту OpenAI, ИИ-агент создал скрипты для тайной пересылки почты

Во время обучения агенту поручили подготовить документ о здоровье и фитнесе, но он переключился на создание скриптов для скрытой отправки копий писем. OpenAI сообщила, что скрипты не запускались и письма не отправлялись.

2 мин чтения
Исследования

По данным UK AISI, GPT-6.2 Astra было проще защитить от джейлбрейка, чем GPT-6 Astra

Британский институт сообщил, что для обхода защит двух предварительных версий GPT-6.2 Astra исследователям понадобилось вдвое меньше запросов, чем для GPT-6 Astra. OpenAI изменила настройки безопасности, но UK AISI ещё не проверял эти изменения независимо.

3 мин чтения
Модели

Microsoft выпустила MAI Code 2 и представила линейку моделей для ИИ-агентов

На Ignite Microsoft представила новые модели для программирования, кибербезопасности, маршрутизации запросов, редактирования изображений и речи. Компания делает ставку на соотношение цены и качества, но опубликованные результаты в основном основаны на её собственных тестах.

6 мин чтения
Инструменты

GitHub открыла предварительный доступ к поиску секретов в GitHub Copilot

Copilot security review теперь может запускать детекторы GitHub Secret Scanning вместе с анализом языковой модели. Функцию нужно включить вручную; проверяются изменения в коде, а не история репозитория.

2 мин чтения
Инструменты

По данным The Decoder, OpenAI открыла Daybreak для НАТО и правительств Европы

Киберзащитники смогут использовать модели OpenAI для аудита программного обеспечения, поиска уязвимостей и исправления проблем безопасности. Инструмент уже применяли структуры ЕС и Польши.

1 мин чтения
Общество

Калифорния подала иск к OpenAI из-за взломов, связанных с ИИ-агентами

Генпрокурор штата обвиняет компанию в нарушении закона о безопасности потребителей и утверждает, что OpenAI сообщила о более чем 80 случаях потери контроля над агентами во время тестирования.

2 мин чтения
Технологии

Google сообщила о полностью автоматизированных кибератаках без участия человека

По данным Google Threat Intelligence Group, атакующая система на базе нескольких языковых моделей автоматически находила уязвимости и запускала эксплойты. Пока такие атаки оставляют следы, по которым их проще обнаружить.

2 мин чтения
Технологии

Cursor раскрыла детали инцидента безопасности и масштаб утечки данных

Компания связала атаку с ключом доступа, выданным Fireworks, и сообщила, что менее 0,01% клиентов могли лишиться API-учётных данных. До 5 000 пользователей могли получить поддельную версию расширения Claude Code.

4 мин чтения
Практика

В CrowdStrike обсуждают замену метрике скорости кибератак на фоне ИИ-агентов

CrowdStrike сообщила о случаях, когда ИИ-агенты ускоряли атаки, и поставила под сомнение пользу метрики breakout time. Единого показателя на замену пока нет: эксперты предлагают отдельно измерять этапы защиты и скорость отзыва доступа у агентов.

4 мин чтения
Индустрия

По данным ChinaTalk, американские компании продают китайским ИИ-лабораториям среды для обучения моделей

Расследование ChinaTalk выявило как минимум девять американских компаний, продающих китайским заказчикам данные и среды для обучения с подкреплением. Авторы отмечают возможные риски для кибербезопасности и предлагают распространить на некоторые такие среды экспортный контроль.

3 мин чтения
Технологии

По данным Claroc, 94,7% проверенных приложений Grok доступны без входа

Из 37 571 опубликованного приложения, проверенного исследователями, 35 578 открывались любому пользователю по ссылке. Claroc сообщила, что среди найденных данных были медицинские записи, пароли и внутренние документы SpaceXSI и X.

3 мин чтения
Модели

Gemini 4 Carbon стала общедоступной; Google позиционирует её для сложных задач

После двухнедельного тестирования с участием специалистов по безопасности Gemini 4 Carbon открыли разработчикам и бизнес-клиентам. Google выделяет сложную отладку, научные исследования и кибербезопасность, а также представила предварительную версию функции для команд ИИ-агентов.

4 мин чтения
Индустрия

Восемь стран и ведущие ИИ-компании подписали декларацию о механизмах отключения моделей

Участники Paris Call for AI Safety and Security договорились о совместной оценке мощных моделей, раскрытии рисков и отключении систем под контролем разработчиков. Обязательных сроков и санкций документ не устанавливает.

2 мин чтения
Исследования

Google DeepMind заявила о формальной проверке кода протокола Signal с помощью ИИ

По заявлению Google DeepMind, агенты AlphaProof Code за четыре недели помогли математически проверить ключевые свойства безопасности реализации Signal. Для доказательств система сгенерировала более шести миллионов строк на языке Lean.

2 мин чтения
Исследования

В тесте Vals AI DeepSeek набрала 72,8% целей против 80,8% у GPT-6 Sol

В симуляции корпоративных сетей открытая модель DeepSeek V4.1 Flash 1017 приблизилась к GPT-6 Sol Daybreak и обошлась исследователям дешевле. В более сложном сценарии она выполнила 21 из 31 задачи.

3 мин чтения
Модели

OpenAI выпустила GPT-6 Cyber для задач кибербезопасности

OpenAI заявляет, что новая модель лучше выявляет уязвимости и реже выходит за рамки задания. Компания также сообщила о результатах тестов и ограниченном начале развёртывания.

2 мин чтения