Компании конкурируют обещаниями о защите данных

ИИ-агентам требуется доступ к личной информации, поэтому компании пытаются убедить пользователей, что их данные будут в безопасности. The Verge рассмотрел, насколько эти обещания подкреплены устройством продуктов Meta* и OpenAI.

Представляя Muse, Meta* заявляла, что агент создан с учётом приватности и безопасности. По словам главы Meta* Superintelligence Labs Ната Фридмана, цель состояла в том, чтобы сделать аналог OpenClaw безопасным, удобным и пригодным для масштабирования. Данные Muse хранятся в изолированной виртуальной машине, однако компания признаёт, что агент всё равно может ошибаться.

У Muse обнаружили уязвимости и широкие настройки сбора данных

Meta* может получать доступ к данным внутри виртуальной машины. Компания заявила, что планирует позднее в этом году добавить криптографическую проверку, которая должна не позволять ей читать эти данные. Кроме того, исследователь обнаружил уязвимость нулевого дня, потенциально позволявшую захватить контроль над Muse; её впоследствии исправили. По данным 404 Media, незадолго до запуска также устраняли несколько серьёзных проблем безопасности. Одна из них, как сообщало издание, могла открыть пользователям доступ к внутренним базам Meta*.

По умолчанию Meta* разрешено использовать введённые в Muse данные для обучения моделей, хотя пользователь может отказаться от этого. Журналист Inc. сообщил, что агент загрузил и прочитал его личные сообщения без запроса. В The Verge отмечают, что такие случаи связаны не только с технической защитой: пользователь может не понимать, насколько широкие действия агент считает необходимыми для выполнения задачи.

По данным Apptopia, за несколько недель Muse набрал в США 600 000 ежедневных активных пользователей. Wired также сообщало, что платформа создаёт подробные профили друзей и родственников пользователей.

OpenAI делает ставку на контроль пользователя

На DevDay OpenAI представила Dots и заявила, что стремится создать надёжного и безопасного помощника. Сэм Альтман показал, как пользователь может задавать агенту ограничения, например запретить покупки дороже определённой суммы. Для корпоративных клиентов компания представила более строгие настройки работы с данными и варианты политики нулевого хранения, при которых информация не сохраняется на серверах OpenAI.

The Verge отмечает, что на момент публикации вокруг Dots было мало скандалов, но агент доступен только в подписках ChatGPT стоимостью от 100 долларов, поэтому пользователей у него, вероятно, меньше. При этом сама необходимость передавать агентам личные данные может вызывать недоверие: журналистка издания, например, не захотела вводить банковские данные по запросу бота.

В итоге обещания приватности остаются частью конкуренции, но сами по себе не доказывают, что данные защищены от доступа компании, ошибок агента или внешних атак.