Meta меняет подсказки Meta AI после вопроса о ребёнке в опубликованном видео
Пользовательница Instagram рассказала, что помощник предложил узнать личные сведения о её дочерях, используя публикации семьи. Meta признала, что подсказка была неуместной, и заявила, что исправила причину таких предложений.
Как появилась подсказка
Пользовательница Instagram Кали Робинс опубликовала видео, где Meta AI предложил спросить: «Кто ребёнок-пассажир?» — под записью, на которой она поёт в машине с ребёнком. По словам Робинс, после выбора подсказки помощник собрал сведения о её дочерях из прежних публикаций самой семьи и родственников, а затем предложил уточнить возраст детей и место жительства семьи.
Робинс также утверждает, что помощник показал фотографии дочерей, опубликованные в соцсети, включая одну, которую она, как считает, удалила несколько лет назад. Эти детали переданы как её рассказ; The Verge не сообщает о независимой проверке доступа к изображению или источника сведений.
Компания признала ошибку в предложениях
Представитель Meta Дина Эль-Кассаби сказала The Verge, что компания «промахнулась» и не должна была предлагать такие вопросы. Meta заявляет, что исправила проблему, из-за которой помощник предлагал подсказки на личные темы. По объяснению компании, ответы строятся на информации, доступной самому пользователю; в этом случае помощник мог опираться на видео, где Робинс называла детей.
Meta AI встроен в Facebook, Instagram, WhatsApp и Messenger. История стала ещё одним примером того, как контекстные подсказки могут объединять личные сведения из разных публикаций и восприниматься как вторжение в частную жизнь. Компания не описала в материале технические изменения и не представила независимую оценку исправления.