Претензии к защите подростков

Common Sense Media, некоммерческая организация, оценивающая цифровые сервисы с точки зрения безопасности детей, назвала ChatGPT for Teens «неприемлемым риском». По её оценке, защита подростков не соответствует обещаниям OpenAI: уведомления для родителей могут не приходить, помощь в кризисных ситуациях недостаточна, а сервис всё ещё выполняет за школьников домашние задания. Выводы опубликованы в пресс-релизе организации.

Исполнительный директор Института безопасности ИИ для молодёжи Common Sense Media Том Сигел заявил, что подросток может около часа говорить с ChatGPT о самоповреждении, но родитель не получит уведомления. До исправления проблем и независимой проверки организация считает, что пользоваться ChatGPT должны только взрослые. Полная оценка опубликована на сайте института.

OpenAI оспорила результаты проверки

Представитель OpenAI Эрик Портерфилд заявил, что компания серьёзно относится к безопасности подростков и приветствует независимую оценку. При этом OpenAI считает, что проверка Common Sense Media не отражает работу защитных механизмов на практике: по версии компании, значительная часть тестов могла пройти до завершения активации родительского контроля, поэтому результаты не показывают, работают ли уведомления как задумано.

Сигел ответил, что организация подтвердила у OpenAI запуск режима обучения и уведомлений о расстройствах пищевого поведения до начала тестирования. По его словам, OpenAI сообщила уже после проверки, что новым связанным аккаунтам может потребоваться несколько часов для активации систем. Некоторые тестовые аккаунты были связаны в этот период, однако на других, по заявлению Common Sense Media, уведомления не приходили и спустя значительно большее время. Организация настаивает, что это не меняет вывода о ненадёжности оповещений в кризисных ситуациях.