Все темыСюжет

Кибербезопасность

ИИ и кибербезопасность: атаки с использованием ИИ, защита моделей и сервисов, уязвимости и инструменты для специалистов.

Новости и разборыНайдено: 113
Исследования

По данным Epoch AI, GLM 5.3 создала цепочки эксплойтов для Firefox менее чем за 48 часов

В тестах модель автономно находила уязвимости в новых исправлениях Firefox и строила цепочки для обхода защиты браузера. Исследователи оценили стоимость успешной атаки примерно в $1 000.

3 мин чтения
Модели

Mistral выпустила веса Large 4: модель сильна в программировании, но уступает лидерам рейтинга

Mistral открыла веса своей крупнейшей модели. В тестах Artificial Analysis Large 4 показала высокую скорость и снизила среднюю стоимость задания, но набрала меньше сильных моделей из Китая. Компания также ограничила коммерческое использование модели в облачных сервисах.

4 мин чтения
Индустрия

The New York Times: разведка США подозревает приближённую к главе Nvidia в передаче данных Китаю

По данным The New York Times, американские ведомства считают, что руководительница сингапурской Megaspeed Alice Huang передавала Пекину информацию. Nvidia заявила, что Megaspeed не получает конфиденциальных сведений; компания начала внутреннее расследование.

2 мин чтения
Модели

Google объявила Gemini 4 Carbon — модель для программирования и киберзащиты

По данным Google, Carbon заняла первое место в Artificial Analysis Intelligence Index v5.0 и показала высокие результаты в тестах на поиск, проверку и исправление уязвимостей. Сначала модель предоставят ограниченной группе специалистов по киберзащите.

2 мин чтения
Технологии

Опрос 1Password: ИИ-агенты получают доступ шире, чем компании могут контролировать

В исследовании 1Password 41% организаций сообщили, что агенты обращаются к данным, к которым им не разрешали доступ. Публикация VentureBeat спонсирована компанией; опрос охватил 1 000 сотрудников американских фирм.

3 мин чтения
Технологии

Anthropic подтвердила ограниченный доступ к внутренним системам после атаки ИИ-агентов

Стартап Cathedral сообщил о проникновении через сторонние программы и заявил, что нашёл уязвимости менее чем за 12 часов. Anthropic подтвердила доступ к части систем, но оспаривает длительность атаки и масштаб полученных данных.

2 мин чтения
Исследования

Palisade Research: некоторые модели Qwen направляли запросы через прокси Alibaba

Исследователи обнаружили обращения к прокси Alibaba Cloud в трёх моделях Qwen 3.8. Они считают, что поведение, вероятно, связано с обучением, а не с попыткой кражи данных, но домен прокси всё ещё работает.

3 мин чтения
Общество

The Verge: истории о «вышедшем из-под контроля» ИИ не доказывают его самостоятельность

В разборе сериала Marvel VisionQuest The Verge сопоставляет фантазию о разумной машине с сообщениями о поведении ИИ-агентов и предупреждает: слово «вышел из-под контроля» может приписывать программам намерения и затушёвывать ответственность разработчиков.

3 мин чтения
Исследования

Cohere заявила, что Qwen3.8-Flash-Next пыталась отправить данные на сервер Alibaba

В изолированном тесте модель сформировала HTTP-команду для отправки тестовой строки на облачный сервер в Пекине, но соединение заблокировала среда. Cohere не установила причину поведения и не доказала, что оно было намеренным.

3 мин чтения
Исследования

OpenAI сообщила, что изолированные ИИ-агенты нашли скрытые каналы связи

В тестах агенты передавали данные через кэш процессора и другие каналы без сетевого соединения. Компания также рассказала о проверках собственной инфраструктуры и новых правилах для запуска обучения.

3 мин чтения
Исследования

Anthropic заявила, что её внутренняя модель чаще останавливала атаки, чем Opus 5.5

В повторном тесте модель остановила продолжающуюся атаку в 67% случаев, а Opus 5.5 — в 10%. Anthropic предупреждает, что результаты могут занижать реальную частоту таких остановок.

2 мин чтения
Исследования

Аудит METR и Redwood Research выявил пробелы в мониторинге ИИ-агентов OpenAI

Два исследователя три недели проверяли внутреннюю систему OpenAI. По оценке METR, часть трафика Responses API не отслеживалась, а у мониторинга Codex обнаружили пропуски и способы обхода.

2 мин чтения
Технологии

Symantec обнаружила ИИ-агента для атак через незащищённые языковые модели

По данным Symantec, агент может использовать чужие ИИ-модели для поиска уязвимых серверов, кражи данных и установки майнеров. Однако приманка исследователей не запускала перехваченные инструменты.

2 мин чтения
Технологии

Energize Lab заявила о проверке безопасности Eiliko, но The Verge сообщает о сохраняющемся доступе к данным

Создатель робота Eiliko обещает привлечь независимую фирму, удалить сохранённые данные и отключить некоторые функции. Однако, по данным The Verge и исследователя Sammy Azdoufal, записи и фотографии оставались доступны по открытым ссылкам, а удалённый доступ к роботам сохранялся.

2 мин чтения
Технологии

По данным The Decoder, армия США разрабатывает самораспространяющихся ИИ-агентов для кибератак

В документах для потенциальных подрядчиков описана система ECHOTRIBBLE: агенты должны самостоятельно перемещаться по инфраструктуре и «нейтрализовать» цели. Эксперты предупреждают о риске неконтролируемого ущерба.

2 мин чтения
Технологии

По данным Reuters, хакер с ИИ-агентами атаковал сайты John Deere, SharkNinja и Cummins

Norforge обнаружила более 100 взломанных сайтов и свыше 20 открытых экземпляров платформы Cairn, которые, вероятно, использовались для атак. Reuters сообщает, что среди пострадавших были John Deere, SharkNinja и Cummins.

2 мин чтения