Математики требуют от OpenAI ясности об источниках данных для исследований
Андреас Том опасается, что его беседы с ChatGPT могли повлиять на математические результаты OpenAI. Компания говорит, что исследователи не видели конкретные пользовательские данные, но не исключает косвенное влияние обезличенных данных.
Вопрос о возможном влиянии пользовательских разговоров
Математик Андреас Том попросил OpenAI объяснить, могли ли его беседы с ChatGPT повлиять на результат компании о несофических группах. Этот результат входил в десятку математических достижений, о которых OpenAI сообщила в прошлом месяце; компания признала, что работа во многом опиралась на более ранние исследования Тома и Габора Куна. Том также напоминает, что первоначальное описание результата критиковали за недостаточное признание недавнего вклада математиков, после чего OpenAI тихо его изменила.
Том говорит, что ответ OpenAI касался прямого доступа к его переписке, но не объяснял, могли ли разговоры оказаться в обучающих данных или повлиять на рассуждения модели. Он считает, что только компания может проверить собственный конвейер данных и просит раскрыть достаточную информацию для ответа. OpenAI не сразу ответила на запрос The Verge.
Что именно утверждает OpenAI
В другом эпизоде, связанном с решением задачи Навье — Стокса, OpenAI заявила, что исследователи и агенты не видели конкретных пользовательских данных до публичного раскрытия работы. При этом компания оставила оговорку: она не может полностью исключить, что обезличенные данные, полученные при использовании продуктов, помогли улучшить модели.
Том считает разницу между конкретной перепиской и возможным влиянием обезличенных данных недостаточным ответом: обезличивание убирает имя, но само по себе не обязательно удаляет интеллектуальное содержание идеи. Его обвинения касаются прозрачности и согласия; материал не доказывает, что конкретная неопубликованная работа использовалась при обучении или решении задачи.
OpenAI опубликовала перечень десяти математических результатов. Вопрос об источниках данных остаётся открытым, поскольку исследователи не имеют доступа к внутренним наборам и настройкам обучения.