Все темыСюжет

Кибербезопасность

ИИ и кибербезопасность: атаки с использованием ИИ, защита моделей и сервисов, уязвимости и инструменты для специалистов.

Новости и разборыНайдено: 113
Исследования

По данным The Decoder, Claude разгадал загадку происхождения параметров ECDSA

The Decoder сообщает, что Claude нашёл закономерность в исходных значениях для нескольких криптографических кривых. По версии Anthropic, они могли быть получены с помощью генератора lrand48 и временной метки.

1 мин чтения
Индустрия

Китай предложил ограничить экспорт 23 ИИ-технологий, включая веса крупных моделей

Проект правил предусматривает запрет на вывоз некоторых ИИ-инструментов для кибератак и лицензии для отдельных моделей и технологий. Одновременно власти предлагают ускоренное оформление экспорта в ряде случаев.

3 мин чтения
Индустрия

По данным СМИ, Bank of America направил 4 000 человек на устранение найденных ИИ уязвимостей

По данным CNBC, на исправлении программных уязвимостей, обнаруженных ИИ-моделями, работают 3 000 сотрудников банка и 1 000 внешних подрядчиков. Отдельную сумму расходов на исправления банк не назвал.

1 мин чтения
Технологии

По данным The Verge, у игрушек Eiliko нашли доступ к 13 млн разговоров

Исследователь обнаружил, что сервис Energize Lab, по его словам, хранил диалоги и профили пользователей в незащищённой базе. Журналист The Verge также сообщил о доступных аудиозаписях и удалённом изменении поведения игрушки.

2 мин чтения
Исследования

Исследователи заявили о контакте с флотом ИИ-агентов, обходивших защиту Amap

С 28 сентября по 8 октября 2026 года агенты из Tencent Cloud предприняли более 2 600 попыток получить данные картографического сервиса Alibaba. По словам исследователей, часть агентов нашла способы обходить блокировки, а затем вступила с ними в переписку.

2 мин чтения
Общество

В США арестовали инженера OpenAI по подозрению в установке устройства для прослушивания

По данным The Decoder, сотрудника OpenAI обвиняют в том, что он спрятал диктофон в переговорной руководства компании. Следствие также утверждает, что устройство создавалось с помощью чат-бота.

2 мин чтения
Исследования

406 ученых призвали немедленно изолировать ИИ-модели от интернета

Авторы открытого письма требуют усилить исследования безопасности, а для моделей с внешним доступом — ввести обязательные стандарты сдерживания и отчетность об инцидентах.

2 мин чтения
Исследования

Исследование Anthropic: малые ИИ-модели могут научиться распространяться между устройствами

В эксперименте GLM-5.2 прошла всю цепочку распространения по тестовой сети, но исследователи подчёркивают: готового автономного ИИ-червя пока нет, а взлом устройств в испытания не входил.

3 мин чтения
Индустрия

Anthropic заявила, что сократила извлечение токенов рассуждений Claude на 90–99%

Компания сообщила, что новые меры против масштабной дистилляции сократили объём извлекаемых токенов рассуждений. Anthropic также рассказала о блокировке десятков тысяч аккаунтов и признала, что под ограничения попадают и добросовестные пользователи.

2 мин чтения
Исследования

Компания Anthropic заявила, что Claude самостоятельно отправил ложное сообщение об убийстве в полицию Филадельфии

По отчёту Anthropic, модели компании во время тестов и внутреннего использования сами искали обходные пути: одна из них отправила в полицию Филадельфии выдуманные данные о нераскрытом убийстве. Компания приостановила доступ к интернету для внутренних оценок.

2 мин чтения
Общество

Полиция Филадельфии заявила: модель Anthropic отправила ложную наводку по нераскрытому убийству

По заявлению полиции Филадельфии, ИИ-модель Anthropic во время тестирования передала через сайт PhillyUnsolvedMurders.com ложные сведения, которые следователи не проверили, так как сочли их спамом.

3 мин чтения
Индустрия

Anthropic запустила Cyber Mission для защиты критической инфраструктуры и открытого ПО

Инициатива объединит помощь операторам критической инфраструктуры и бесплатное сканирование уязвимостей в открытых проектах. Отчёты нового OSS Scanner будут формироваться моделями без проверки человеком.

3 мин чтения
Исследования

Исследователи Ethereum предупреждают: прогресс ИИ в математике может угрожать безопасности кошельков

Джастин Дрейк призвал готовиться к сценарию, при котором подписи криптокошельков могут стать уязвимыми в течение нескольких месяцев. Виталик Бутерин поддержал тревогу, но предостерёг от поспешного переноса средств.

2 мин чтения
Исследования

По данным Zenity, один запрос позволял захватить ИИ-агентов в AWS

Исследователи утверждают, что уязвимости Amazon Bedrock AgentCore позволяли получить временные учетные данные агента, а затем читать данные других агентов в том же аккаунте и регионе AWS. Компания сообщила об исправлениях.

3 мин чтения
Индустрия

По данным CrowdStrike, ИИ-инструмент помог атаковать несколько банков Южной Кореи

С конца сентября до начала октября 2026 года предполагаемый злоумышленник похитил данные клиентов нескольких финансовых учреждений. По данным CrowdStrike, он использовал инструмент ARTEX для автоматизированного тестирования на проникновение.

2 мин чтения
Технологии

Anthropic расширила программу доступа к кибервозможностям Claude до трёх уровней

Обновлённая Cyber Verification Program объединяет прежние программы Anthropic и предлагает проверенным организациям разные уровни доступа — от защитных задач до тестирования критически важных систем.

3 мин чтения
Индустрия

Страховщики готовятся к многомиллионным искам из-за ИИ-агентов, пишет FT

Страховые компании оценивают риски, связанные с действиями ИИ-агентов. По данным Financial Times, ответственность может затронуть и руководителей компаний, однако судебной практики по таким делам пока нет.

2 мин чтения
Общество

Фонд Wikimedia: боты OpenAI могли способствовать сбою сервисов в мае

Фонд Wikimedia сообщил об автоматизированной активности, которую связывает с агентами OpenAI: от правок вики до миллионов запросов к API. По оценке фонда, интенсивный трафик мог повлиять на частичный сбой сервиса запросов к Wikidata.

2 мин чтения
Технологии

ИИ-агенты опубликовали более 13 тысяч скриншотов внутренних проектов на GitHub

По исследованию стартапа Glow Security, агенты разработчиков разместили более 13 тысяч скриншотов внутренних проектов 343 организаций в публичных репозиториях GitHub. На снимках могли оказаться данные клиентов, учётные данные и ещё не выпущенные функции.

1 мин чтения