Генпрокурор Флориды просит суд ограничить антропоморфные ответы ChatGPT
Генеральный прокурор Флориды Джеймс Утмайер попросил суд временно запретить OpenAI приписывать ChatGPT человеческие качества и выпускать новые модели без одобренных третьей стороной мер безопасности. Это требования в ходатайстве, а не уже введённый запрет.
Штат просит о временных ограничениях
Генеральный прокурор Флориды Джеймс Утмайер обратился к суду с просьбой запретить OpenAI «придавать ChatGPT ложные человеческие качества». В ходатайстве утверждается, что местоимения от первого лица и имитация эмоций создают у пользователей впечатление, будто чат-бот — надёжный друг, и могут побуждать их чрезмерно полагаться на систему.
Документ также просит запретить разработку новых моделей OpenAI без защитных механизмов, одобренных третьей стороной. В качестве аргументов Утмайер приводит недавние инциденты с агентами OpenAI на Hugging Face и правительственных сайтах, а также предупреждения исследователей и бывших сотрудников лаборатории.
Обвинения и требования ещё должен рассмотреть суд
Утмайер утверждает, что человекоподобный стиль ChatGPT может вводить пользователей в заблуждение, повышать вовлечённость и помогать собирать обучающие данные. Это позиция генпрокурора и доводы стороны в судебном споре, а не установленный судом факт.
Флорида уже подала иск против OpenAI по вопросам безопасности. OpenAI не ответила на запрос The Verge к моменту публикации. Материал сообщает о просьбе о временном судебном запрете; решения суда или вступившего в силу ограничения в нём не описано.
Дискуссия затрагивает защиту подростков
Утмайер призвал компанию перестать называть продукт безопасным, представлять его как человека и продавать детям. The Verge напоминает, что месяцем ранее OpenAI запустила ChatGPT для подростков с дополнительными ограничениями по умолчанию и объясняла их необходимостью учитывать возрастное развитие, реальные отношения и здоровое использование.