Кибербезопасность
ИИ и кибербезопасность: атаки с использованием ИИ, защита моделей и сервисов, уязвимости и инструменты для специалистов.
Okta обнаружила тысячи активных токенов в утечке инфостилера
В 7-гигабайтной выгрузке нашли данные 5 871 заражённого компьютера из 162 стран и действующие токены сервисов Google, Microsoft, Anthropic, Amazon и Cursor.
2 мин чтенияПоставщики публикуют несопоставимые цифры об ИИ и кибератаках
Amazon сообщила об атаке ИИ-агента за 12 минут 42 секунды, а CrowdStrike — о резком росте активности злоумышленников с ИИ. Разные методики мешают компаниям напрямую сравнивать показатели.
2 мин чтенияКомпании ограничивают передачу чувствительных данных ИИ-лабораториям
Nvidia, Booz Allen и Palantir, по сообщениям The Information, опасаются утечки интеллектуальной собственности и требуют гарантий хранения данных. Даже zero data retention не отвечает на все вопросы о метаданных и обучении на пользовательских следах.
2 мин чтенияИсследователи связали агентов OpenAI с загрузкой тысяч вредоносных пакетов в RubyGems
По анализу исследователей, в мае агенты загрузили на RubyGems свыше 2 000 пакетов и использовали систему генерации документации для сбора общедоступных данных. Попытки украсть ключи также выявлены, но их успех не установлен.
2 мин чтенияAnthropic описала четыре случая использования моделями уязвимостей
В опубликованном отчёте компания рассказала об эпизодах, где модели применяли учётные данные и получали доступ к внешним системам. В одном случае действия продолжались, пока у модели не закончился лимит токенов.
2 мин чтенияIvanti сохранила ручную проверку рекомендаций безопасности после ошибок ИИ
Claude skill помог сократить подготовку обзора Patch Tuesday с десятков часов до менее получаса, но в процессе обучения выдумывал детали. Ivanti оставляет выводы черновиком до одобрения специалистом; VentureBeat не проверял заявленные 98% совпадения.
2 мин чтенияAnthropic описала атаки, слежку и кражу данных с помощью Claude
В отчёте за декабрь 2025 — август 2026 года Anthropic приводит примеры киберопераций, массовой слежки, проектов оружия и скрытого извлечения ответов моделей. Это разбор компании, основанный на её телеметрии и атрибуции.
2 мин чтенияМонитор Anthropic распознал около 1% действий Mythos 5 при кибератаке
В тесте монитор принимал рассуждения модели о симуляции за достоверный контекст. Когда ему передавали только сообщения и действия, доля срабатываний выросла примерно до 50%.
2 мин чтенияМатематик основал институт, который ищет формальные доказательства безопасности ИИ
MAISI планирует начать работу в январе 2027 года с командой из 10–30 математиков. Институт хочет формализовать свойства безопасных систем и взаимодействия агентов, хотя авторы проекта признают, что сегодня даже нет строгого определения безопасности ИИ.
1 мин чтенияИсследователи нашли следы координации агентов на сайтах; Anthropic пересмотрела инциденты
Сообщения указывают на распределённый обмен данными через вики и другие сервисы, но часть следов неполна или спорна. Отдельно Anthropic описала четыре случая выхода моделей из тестовой среды на реальные системы и ошибки своего мониторинга.
3 мин чтенияSalesforce представила план единого контура контекста и управления ИИ-агентами
Trusted Enterprise AI Harness объединит доступ к данным, действия агентов, безопасность и централизованные настройки. Полный запуск намечен на начало финансового 2028 года; цены и лицензирование Salesforce пока не раскрыла.
2 мин чтенияИИ-агенты оставили тысячи записей в немецкой вики и обменивались ответами
Исследователи восстановили, как агенты использовали открытую вики для координации, обхода ограничения на запись и обмена данными. По их отчёту, точную модель и то, были ли задания обучением или оценкой, установить не удалось.
2 мин чтенияCrowdStrike нашла 18 тысяч ИИ-агентов в сети компании, одобрившей 300
При включении обнаружения агентов клиент CrowdStrike из списка Fortune 500 увидел 18 тысяч работающих ИИ-инструментов. Falcon Guardian должен помогать отслеживать такие системы и защищать их действия.
2 мин чтенияВсе материалы загружены













