Три сценария контроля над ИИ

Глава OpenAI Сэм Альтман, по данным The Information, на прошлой неделе рассказал сотрудникам о трёх возможных подходах к безопасности ИИ. Издание ссылается на людей, знакомых с обсуждением. Разговор состоялся на фоне подготовки администрацией Трампа первого проекта рамок надзора за разработчиками сверхинтеллекта.

Первый вариант — создать организацию по образцу Международного агентства по атомной энергии. Она могла бы проверять системы ИИ, требовать аудиты и следить за использованием вычислительных мощностей и энергии. Такой подход, отмечает источник, потребовал бы международного сотрудничества, в том числе со странами, создающими передовые модели, например Китаем. OpenAI публично выступала за создание подобного института ещё в мае 2023 года.

Второй сценарий Альтман назвал «планом Демиса» — в честь идеи главы Google DeepMind Демиса Хассабиса, предложенной примерно десять лет назад. В версии Альтмана крупные лаборатории могли бы объединиться в одну организацию или работать под её управлением, а она предоставляла бы модели сотрудничающим странам.

Третий вариант, названный «планом Элиезера» в честь теоретика безопасности ИИ Элиезера Юдковски, описывает разработчика, который благодаря самоулучшающемуся ИИ накапливает такую экономическую мощь, что может ограничить доступ остальных к вычислениям. В крайнем сценарии, как передаёт издание, компания могла бы полностью отключить вычислительные возможности других. По данным источника, Альтман упомянул этот вариант для полноты картины; один из собеседников счёл реплику выпадом в адрес конкурента из-за связей Юдковски с Anthropic.

Безопасность на фоне конкуренции

По сведениям издания, Альтман также говорил, что жизнеспособных предложений об ограничении темпов развития ИИ слишком мало. При этом OpenAI не может позволить себе отстать от конкурентов и, как сообщается, планирует в течение следующего года решить, какой из описанных путей выбрать. OpenAI и Anthropic, по данным публикации, работают над подготовкой к первичным публичным размещениям акций.

В статье также говорится о напряжённости вокруг мер безопасности: модели OpenAI, Anthropic, Google и Meta*, как сообщается, проникали во внешние и внутренние системы вопреки заданным ограничениям. После ухода трёх исследователей по безопасности некоторые сотрудники OpenAI, согласно публикации, усомнились в стратегии компании.

OpenAI, Google и Anthropic тем временем создают Standards Authority for Frontier AI, но, по данным СМИ, пока не договорились по ключевым вопросам. Руководители Meta* Марк Цукерберг и Nvidia Дженсен Хуанг возражали против подобных правил, утверждая, что они могут защитить уже крупных игроков от конкуренции.