В приложениях для знакомств обнаружили сеть ИИ-персон
Исследователь выявил около 28 сервисов, где за аккаунтами собеседников стояли автономные ИИ-персоны. Один предоплаченный аккаунт модели отправлял более 100 тысяч запросов в день.
Собеседники, созданные ИИ
В приложениях для знакомств обнаружили сеть примерно из 28 сервисов, где пользователям отвечали автономные ИИ-персоны, а не реальные люди. По данным расследования, один предоплаченный аккаунт Claude отправлял свыше 100 000 запросов в день; в большинстве диалогов человек не участвовал.
Исследователь безопасности Мэттью «Zigula» Гор-Корманик тестировал приложение Dora и получил видеозвонок от профиля «Дженнифер». На видео вместо собеседницы отображалась движущаяся ткань, а звук был искажён. После звонка аккаунт написал, что ему понравился голос исследователя, хотя тот отключил микрофон.
Как была устроена сеть
Пример показывает, что автоматизированные профили могут имитировать романтическое общение в коммерческих сервисах, не раскрывая пользователю участие ИИ. Это ставит вопросы о согласии, подлинности взаимодействия и обработке личных сообщений.
Число около 28 относится к обнаруженной исследователем группе приложений, а не ко всему рынку знакомств. Материал не устанавливает, что каждый сервис в этой сети использовал идентичную схему или модель.
Расследование описывает не обычную романтическую аферу с просьбой занять деньги: сами приложения зарабатывали на монетах, которыми пользователи оплачивали продолжение переписки. Покупатели считали, что общаются с людьми, хотя значительную часть диалогов вели ИИ-персоны круглосуточно.
По опубликованным Anthropic материалам, пользователи, согласно расследованию, чаще всего были мужчинами; только около одного из четырёх собеседников был человеком. Это были нанятые исполнители, проходившие видео-проверки или поддерживавшие аккаунты в соцсетях. Даже они выбирали один из трёх подготовленных ответов вместо самостоятельного текста.
Серверы приложений, как описывает отчёт, подделывали лайки, просмотры и заранее записанные видеосообщения, а также отслеживали подозрения пользователей. Для аватаров применялась отдельная модель редактирования изображений, а для коротких вариантов ответов — небольшая модель, не принадлежавшая Anthropic.
В The Verge отмечено, что обнаруженные приложения выглядели как сервисы для знакомств и обещали общение с реальными людьми, а не обозначали себя как ИИ-компаньоны. Числа и описание схемы приведены в расследовании Anthropic и журналистском изучении группы приложений, а не являются оценкой всего рынка.