Пол Кристиано вошёл в совет OpenAI Foundation
Исследователь присоединится к совету Foundation и комитету по безопасности. В совете OpenAI Group PBC он будет наблюдателем без права голоса.
Роли в управлении OpenAI
OpenAI назначила Пола Кристиано членом совета OpenAI Foundation. Он также войдёт в Комитет Foundation по безопасности и защищённости, которым руководит Зико Колтер. Комитет курирует практики безопасности во всей OpenAI, включая OpenAI Group PBC.
В совете OpenAI Group PBC Кристиано будет наблюдателем без права голоса. Это отдельный статус: объявление не называет его полноправным членом с голосом в совете операционной компании.
Опыт в стандартах и оценке ИИ
Кристиано работает старшим техническим советником в Центре стандартов и инноваций в области ИИ (CAISI), входящем в Национальный институт стандартов и технологий США. В CAISI и его предшественнике, Институте безопасности ИИ, он участвовал в оценке передовых моделей, включая возможности, связанные с национальной безопасностью.
Его опыт работы с государственными структурами США охватывает две администрации. OpenAI связывает назначение с компетенциями в области согласования ИИ, безопасности и стандартов; иных изменений структуры управления сообщение не объявляет.
Кристиано сейчас работает старшим техническим советником в CAISI при Национальном институте стандартов и технологий США. Он участвовал в оценке передовых моделей, включая возможности, связанные с национальной безопасностью, и в разработке мер снижения рисков. Ранее он основал исследовательский центр Alignment Research Center, изучающий согласование ИИ с интересами людей, а с 2017 по 2021 год руководил исследованиями по alignment в OpenAI.
OpenAI указывает его вклад в развитие RLHF — обучения с подкреплением по обратной связи людей. Foundation ожидает, что технический опыт и независимый взгляд Кристиано помогут оспаривать недостаточно подтверждённые решения. OpenAI Foundation — благотворительная организация, контролирующая OpenAI Group PBC и владеющая значительной долей в компании.