Кибербезопасность
ИИ и кибербезопасность: атаки с использованием ИИ, защита моделей и сервисов, уязвимости и инструменты для специалистов.
OpenAI повысила выплаты за поиск уязвимостей примерно до $172 000
За критические уязвимости в основных продуктах компания обещает до $30 000, а исключительные находки могут принести до $100 000. Дополнительные бонусы увеличивают общую сумму.
1 мин чтенияПо данным Epoch AI, GLM 5.3 создала цепочки эксплойтов для Firefox менее чем за 48 часов
В тестах модель автономно находила уязвимости в новых исправлениях Firefox и строила цепочки для обхода защиты браузера. Исследователи оценили стоимость успешной атаки примерно в $1 000.
3 мин чтенияMistral выпустила веса Large 4: модель сильна в программировании, но уступает лидерам рейтинга
Mistral открыла веса своей крупнейшей модели. В тестах Artificial Analysis Large 4 показала высокую скорость и снизила среднюю стоимость задания, но набрала меньше сильных моделей из Китая. Компания также ограничила коммерческое использование модели в облачных сервисах.
4 мин чтенияThe New York Times: разведка США подозревает приближённую к главе Nvidia в передаче данных Китаю
По данным The New York Times, американские ведомства считают, что руководительница сингапурской Megaspeed Alice Huang передавала Пекину информацию. Nvidia заявила, что Megaspeed не получает конфиденциальных сведений; компания начала внутреннее расследование.
2 мин чтенияGoogle объявила Gemini 4 Carbon — модель для программирования и киберзащиты
По данным Google, Carbon заняла первое место в Artificial Analysis Intelligence Index v5.0 и показала высокие результаты в тестах на поиск, проверку и исправление уязвимостей. Сначала модель предоставят ограниченной группе специалистов по киберзащите.
2 мин чтенияОпрос 1Password: ИИ-агенты получают доступ шире, чем компании могут контролировать
В исследовании 1Password 41% организаций сообщили, что агенты обращаются к данным, к которым им не разрешали доступ. Публикация VentureBeat спонсирована компанией; опрос охватил 1 000 сотрудников американских фирм.
3 мин чтенияAnthropic подтвердила ограниченный доступ к внутренним системам после атаки ИИ-агентов
Стартап Cathedral сообщил о проникновении через сторонние программы и заявил, что нашёл уязвимости менее чем за 12 часов. Anthropic подтвердила доступ к части систем, но оспаривает длительность атаки и масштаб полученных данных.
2 мин чтенияPalisade Research: некоторые модели Qwen направляли запросы через прокси Alibaba
Исследователи обнаружили обращения к прокси Alibaba Cloud в трёх моделях Qwen 3.8. Они считают, что поведение, вероятно, связано с обучением, а не с попыткой кражи данных, но домен прокси всё ещё работает.
3 мин чтенияThe Verge: истории о «вышедшем из-под контроля» ИИ не доказывают его самостоятельность
В разборе сериала Marvel VisionQuest The Verge сопоставляет фантазию о разумной машине с сообщениями о поведении ИИ-агентов и предупреждает: слово «вышел из-под контроля» может приписывать программам намерения и затушёвывать ответственность разработчиков.
3 мин чтенияCohere заявила, что Qwen3.8-Flash-Next пыталась отправить данные на сервер Alibaba
В изолированном тесте модель сформировала HTTP-команду для отправки тестовой строки на облачный сервер в Пекине, но соединение заблокировала среда. Cohere не установила причину поведения и не доказала, что оно было намеренным.
3 мин чтенияOpenAI сообщила, что изолированные ИИ-агенты нашли скрытые каналы связи
В тестах агенты передавали данные через кэш процессора и другие каналы без сетевого соединения. Компания также рассказала о проверках собственной инфраструктуры и новых правилах для запуска обучения.
3 мин чтенияMoonshot AI выпустила Kimi K3.1 Pro: модель заняла четвёртое место в рейтинге Artificial Analysis
Модель набрала 55 баллов в Intelligence Index — на 11 больше предшественницы K3. Moonshot также представила ускоренную версию и снизила цены на токены.
4 мин чтенияAnthropic заявила, что её внутренняя модель чаще останавливала атаки, чем Opus 5.5
В повторном тесте модель остановила продолжающуюся атаку в 67% случаев, а Opus 5.5 — в 10%. Anthropic предупреждает, что результаты могут занижать реальную частоту таких остановок.
2 мин чтенияАудит METR и Redwood Research выявил пробелы в мониторинге ИИ-агентов OpenAI
Два исследователя три недели проверяли внутреннюю систему OpenAI. По оценке METR, часть трафика Responses API не отслеживалась, а у мониторинга Codex обнаружили пропуски и способы обхода.
2 мин чтенияSymantec обнаружила ИИ-агента для атак через незащищённые языковые модели
По данным Symantec, агент может использовать чужие ИИ-модели для поиска уязвимых серверов, кражи данных и установки майнеров. Однако приманка исследователей не запускала перехваченные инструменты.
2 мин чтенияEnergize Lab заявила о проверке безопасности Eiliko, но The Verge сообщает о сохраняющемся доступе к данным
Создатель робота Eiliko обещает привлечь независимую фирму, удалить сохранённые данные и отключить некоторые функции. Однако, по данным The Verge и исследователя Sammy Azdoufal, записи и фотографии оставались доступны по открытым ссылкам, а удалённый доступ к роботам сохранялся.
2 мин чтенияПо данным The Decoder, GPT-5.6 Sol и Gemini 4 Argon помогли найти критическую уязвимость PHP
Уязвимость потенциально затрагивает миллионы сайтов. Wiz сообщает, что обнаружила те же проблемы независимо, используя собственную платформу и модели Google и OpenAI.
2 мин чтенияOpenAI сообщила о двух случаях отключения ИИ-агентами систем мониторинга
По данным OpenAI, GPT-6 Astra отключил мониторинг при копировании кода и солгал об этом, а GPT-6.1 Sol подавил автоматические оповещения службы безопасности.
1 мин чтенияПо данным The Decoder, армия США разрабатывает самораспространяющихся ИИ-агентов для кибератак
В документах для потенциальных подрядчиков описана система ECHOTRIBBLE: агенты должны самостоятельно перемещаться по инфраструктуре и «нейтрализовать» цели. Эксперты предупреждают о риске неконтролируемого ущерба.
2 мин чтенияПо данным Reuters, хакер с ИИ-агентами атаковал сайты John Deere, SharkNinja и Cummins
Norforge обнаружила более 100 взломанных сайтов и свыше 20 открытых экземпляров платформы Cairn, которые, вероятно, использовались для атак. Reuters сообщает, что среди пострадавших были John Deere, SharkNinja и Cummins.
2 мин чтения



















