Что меняется в использовании данных

По данным The Decoder, OpenAI сообщила участникам программы Trusted Access, что с 29 ноября будет использовать данные сессий Daybreak Blue для обучения моделей. Раньше эти данные не включались в обучение, в том числе если у пользователя была выключена настройка «Улучшать модель для всех».

После критики компания отправила участникам второе письмо и пообещала отдельную настройку отказа от использования данных Daybreak Blue для обучения. В публикации не уточняется, когда она появится. Сессии, помеченные во время проверок безопасности, OpenAI по-прежнему может использовать для целей безопасности.

Почему изменение тревожит исследователей

Как пишет The Decoder, исследователи опасаются повторения спора вокруг математиков Тристана Бакмастера и Левента Альпёге. Они загрузили в Codex черновики по уравнениям Навье — Стокса; вскоре OpenAI представила собственное доказательство, но отрицала, что использовала их вводы для обучения.

Публикация отмечает, что уже возникшее подозрение показало исследователям возможные риски. Источник не утверждает, что OpenAI обучала модели на материалах математиков.