OpenAI поддержала независимые проверки безопасности ИИ-лабораторий
Положение законопроекта FRONTIER Act предусматривает внешние аудиты для крупнейших лабораторий, достигших заданных порогов выручки и вычислительных мощностей. Для OpenAI это первая поддержка конкретного федерального требования.
Предложение о внешнем аудите
OpenAI поддержала положение законопроекта FRONTIER Act, которое требует от крупнейших ИИ-лабораторий проходить независимую проверку безопасности. Обязательство распространялось бы на компании, превысившие предусмотренные законом пороги выручки и вычислительных мощностей.
Законопроект внесли республиканец Джей Обернолте и демократ Лори Тран. По сообщению The Decoder, это первый случай, когда OpenAI одобрила конкретное федеральное требование о привлечении внешних аудиторов. Ранее компания поддерживала добровольные проверки.
От добровольных обещаний к правилам
В OpenAI заявили о готовности поддержать инициативу. Независимый контроль обсуждался и прежде, в том числе после предложений Дарио Амодеи о регулировании передовых моделей.
Поддержка компании не означает, что закон уже принят или что аудиторы начали проверять лаборатории. Требование остаётся положением законопроекта и зависит от дальнейшего рассмотрения Конгрессом США.
В подготовленном по инициативе OpenAI документе предлагается, чтобы лаборатории проходили аудит у независимых сторон до выпуска моделей, способных выполнять опасные кибероперации. Проверки должны охватывать управление рисками, безопасность обучения и защиту моделей от злоупотреблений.
Инициатива связана с законопроектом Frontier AI Regulation and Accountability Act в Калифорнии. OpenAI призывает не допускать ситуации, когда компания сама оценивает собственные меры без внешнего контроля. Это политическое предложение компании; обязательное требование возникнет только после принятия соответствующих правил.
Поддержанное положение относится к федеральному законопроекту FRONTIER Act: независимые аудиторы должны проверять безопасность крупных лабораторий, превышающих пороги выручки и вычислительных мощностей. Инициативу внесли республиканец Джей Обернолте и демократ Лори Тран. Поддержка OpenAI касается предложения закона, а не уже действующей обязанности.
На конференции Future of Life Institute вокруг темы собрались политики, религиозные лидеры, художники и семьи погибших подростков. Предложения участников различались: Берни Сандерс говорил о паузе в строительстве дата-центров, Стив Бэннон — о президентском указе. Белый дом выступал против ограничений. Это политический контекст спора, а не часть текста законопроекта о внешнем аудите.