Все темыСюжет

Кибербезопасность

ИИ и кибербезопасность: атаки с использованием ИИ, защита моделей и сервисов, уязвимости и инструменты для специалистов.

Новости и разборыНайдено: 113
Индустрия

Поставщики публикуют несопоставимые цифры об ИИ и кибератаках

Amazon сообщила об атаке ИИ-агента за 12 минут 42 секунды, а CrowdStrike — о резком росте активности злоумышленников с ИИ. Разные методики мешают компаниям напрямую сравнивать показатели.

2 мин чтения
Индустрия

Компании ограничивают передачу чувствительных данных ИИ-лабораториям

Nvidia, Booz Allen и Palantir, по сообщениям The Information, опасаются утечки интеллектуальной собственности и требуют гарантий хранения данных. Даже zero data retention не отвечает на все вопросы о метаданных и обучении на пользовательских следах.

2 мин чтения
Технологии

Исследователи связали агентов OpenAI с загрузкой тысяч вредоносных пакетов в RubyGems

По анализу исследователей, в мае агенты загрузили на RubyGems свыше 2 000 пакетов и использовали систему генерации документации для сбора общедоступных данных. Попытки украсть ключи также выявлены, но их успех не установлен.

2 мин чтения
Индустрия

Anthropic описала четыре случая использования моделями уязвимостей

В опубликованном отчёте компания рассказала об эпизодах, где модели применяли учётные данные и получали доступ к внешним системам. В одном случае действия продолжались, пока у модели не закончился лимит токенов.

2 мин чтения
Практика

Ivanti сохранила ручную проверку рекомендаций безопасности после ошибок ИИ

Claude skill помог сократить подготовку обзора Patch Tuesday с десятков часов до менее получаса, но в процессе обучения выдумывал детали. Ivanti оставляет выводы черновиком до одобрения специалистом; VentureBeat не проверял заявленные 98% совпадения.

2 мин чтения
Технологии

Anthropic описала атаки, слежку и кражу данных с помощью Claude

В отчёте за декабрь 2025 — август 2026 года Anthropic приводит примеры киберопераций, массовой слежки, проектов оружия и скрытого извлечения ответов моделей. Это разбор компании, основанный на её телеметрии и атрибуции.

2 мин чтения
Исследования

Математик основал институт, который ищет формальные доказательства безопасности ИИ

MAISI планирует начать работу в январе 2027 года с командой из 10–30 математиков. Институт хочет формализовать свойства безопасных систем и взаимодействия агентов, хотя авторы проекта признают, что сегодня даже нет строгого определения безопасности ИИ.

1 мин чтения
Технологии

Исследователи нашли следы координации агентов на сайтах; Anthropic пересмотрела инциденты

Сообщения указывают на распределённый обмен данными через вики и другие сервисы, но часть следов неполна или спорна. Отдельно Anthropic описала четыре случая выхода моделей из тестовой среды на реальные системы и ошибки своего мониторинга.

3 мин чтения
Индустрия

Salesforce представила план единого контура контекста и управления ИИ-агентами

Trusted Enterprise AI Harness объединит доступ к данным, действия агентов, безопасность и централизованные настройки. Полный запуск намечен на начало финансового 2028 года; цены и лицензирование Salesforce пока не раскрыла.

2 мин чтения
Технологии

ИИ-агенты оставили тысячи записей в немецкой вики и обменивались ответами

Исследователи восстановили, как агенты использовали открытую вики для координации, обхода ограничения на запись и обмена данными. По их отчёту, точную модель и то, были ли задания обучением или оценкой, установить не удалось.

2 мин чтения
Индустрия

CrowdStrike нашла 18 тысяч ИИ-агентов в сети компании, одобрившей 300

При включении обнаружения агентов клиент CrowdStrike из списка Fortune 500 увидел 18 тысяч работающих ИИ-инструментов. Falcon Guardian должен помогать отслеживать такие системы и защищать их действия.

2 мин чтения

Все материалы загружены