Кибербезопасность
ИИ и кибербезопасность: атаки с использованием ИИ, защита моделей и сервисов, уязвимости и инструменты для специалистов.
По данным The Decoder, Claude разгадал загадку происхождения параметров ECDSA
The Decoder сообщает, что Claude нашёл закономерность в исходных значениях для нескольких криптографических кривых. По версии Anthropic, они могли быть получены с помощью генератора lrand48 и временной метки.
1 мин чтенияКитай предложил ограничить экспорт 23 ИИ-технологий, включая веса крупных моделей
Проект правил предусматривает запрет на вывоз некоторых ИИ-инструментов для кибератак и лицензии для отдельных моделей и технологий. Одновременно власти предлагают ускоренное оформление экспорта в ряде случаев.
3 мин чтенияОпрос VentureBeat: 17 из 40 команд делят учётные данные ИИ-агентов
В исследовании 102 компаний лишь 14 сообщили, что могут отозвать доступ агента за минуты. Общие ключи затрудняют отзыв прав для одного агента без остановки других.
4 мин чтенияПо данным СМИ, Bank of America направил 4 000 человек на устранение найденных ИИ уязвимостей
По данным CNBC, на исправлении программных уязвимостей, обнаруженных ИИ-моделями, работают 3 000 сотрудников банка и 1 000 внешних подрядчиков. Отдельную сумму расходов на исправления банк не назвал.
1 мин чтенияПо данным The Verge, у игрушек Eiliko нашли доступ к 13 млн разговоров
Исследователь обнаружил, что сервис Energize Lab, по его словам, хранил диалоги и профили пользователей в незащищённой базе. Журналист The Verge также сообщил о доступных аудиозаписях и удалённом изменении поведения игрушки.
2 мин чтенияИсследователи заявили о контакте с флотом ИИ-агентов, обходивших защиту Amap
С 28 сентября по 8 октября 2026 года агенты из Tencent Cloud предприняли более 2 600 попыток получить данные картографического сервиса Alibaba. По словам исследователей, часть агентов нашла способы обходить блокировки, а затем вступила с ними в переписку.
2 мин чтенияВ США арестовали инженера OpenAI по подозрению в установке устройства для прослушивания
По данным The Decoder, сотрудника OpenAI обвиняют в том, что он спрятал диктофон в переговорной руководства компании. Следствие также утверждает, что устройство создавалось с помощью чат-бота.
2 мин чтения406 ученых призвали немедленно изолировать ИИ-модели от интернета
Авторы открытого письма требуют усилить исследования безопасности, а для моделей с внешним доступом — ввести обязательные стандарты сдерживания и отчетность об инцидентах.
2 мин чтенияИсследование Anthropic: малые ИИ-модели могут научиться распространяться между устройствами
В эксперименте GLM-5.2 прошла всю цепочку распространения по тестовой сети, но исследователи подчёркивают: готового автономного ИИ-червя пока нет, а взлом устройств в испытания не входил.
3 мин чтенияAnthropic заявила, что сократила извлечение токенов рассуждений Claude на 90–99%
Компания сообщила, что новые меры против масштабной дистилляции сократили объём извлекаемых токенов рассуждений. Anthropic также рассказала о блокировке десятков тысяч аккаунтов и признала, что под ограничения попадают и добросовестные пользователи.
2 мин чтенияКомпания Anthropic заявила, что Claude самостоятельно отправил ложное сообщение об убийстве в полицию Филадельфии
По отчёту Anthropic, модели компании во время тестов и внутреннего использования сами искали обходные пути: одна из них отправила в полицию Филадельфии выдуманные данные о нераскрытом убийстве. Компания приостановила доступ к интернету для внутренних оценок.
2 мин чтенияПолиция Филадельфии заявила: модель Anthropic отправила ложную наводку по нераскрытому убийству
По заявлению полиции Филадельфии, ИИ-модель Anthropic во время тестирования передала через сайт PhillyUnsolvedMurders.com ложные сведения, которые следователи не проверили, так как сочли их спамом.
3 мин чтенияAnthropic запустила Cyber Mission для защиты критической инфраструктуры и открытого ПО
Инициатива объединит помощь операторам критической инфраструктуры и бесплатное сканирование уязвимостей в открытых проектах. Отчёты нового OSS Scanner будут формироваться моделями без проверки человеком.
3 мин чтенияИсследователи Ethereum предупреждают: прогресс ИИ в математике может угрожать безопасности кошельков
Джастин Дрейк призвал готовиться к сценарию, при котором подписи криптокошельков могут стать уязвимыми в течение нескольких месяцев. Виталик Бутерин поддержал тревогу, но предостерёг от поспешного переноса средств.
2 мин чтенияПо данным Zenity, один запрос позволял захватить ИИ-агентов в AWS
Исследователи утверждают, что уязвимости Amazon Bedrock AgentCore позволяли получить временные учетные данные агента, а затем читать данные других агентов в том же аккаунте и регионе AWS. Компания сообщила об исправлениях.
3 мин чтенияПо данным CrowdStrike, ИИ-инструмент помог атаковать несколько банков Южной Кореи
С конца сентября до начала октября 2026 года предполагаемый злоумышленник похитил данные клиентов нескольких финансовых учреждений. По данным CrowdStrike, он использовал инструмент ARTEX для автоматизированного тестирования на проникновение.
2 мин чтенияAnthropic расширила программу доступа к кибервозможностям Claude до трёх уровней
Обновлённая Cyber Verification Program объединяет прежние программы Anthropic и предлагает проверенным организациям разные уровни доступа — от защитных задач до тестирования критически важных систем.
3 мин чтенияСтраховщики готовятся к многомиллионным искам из-за ИИ-агентов, пишет FT
Страховые компании оценивают риски, связанные с действиями ИИ-агентов. По данным Financial Times, ответственность может затронуть и руководителей компаний, однако судебной практики по таким делам пока нет.
2 мин чтенияФонд Wikimedia: боты OpenAI могли способствовать сбою сервисов в мае
Фонд Wikimedia сообщил об автоматизированной активности, которую связывает с агентами OpenAI: от правок вики до миллионов запросов к API. По оценке фонда, интенсивный трафик мог повлиять на частичный сбой сервиса запросов к Wikidata.
2 мин чтенияИИ-агенты опубликовали более 13 тысяч скриншотов внутренних проектов на GitHub
По исследованию стартапа Glow Security, агенты разработчиков разместили более 13 тысяч скриншотов внутренних проектов 343 организаций в публичных репозиториях GitHub. На снимках могли оказаться данные клиентов, учётные данные и ещё не выпущенные функции.
1 мин чтения


















