IPO усиливает противоречие между безопасностью и ростом

The Verge описывает IPO Anthropic как крупнейшее в истории: по данным издания, компания привлекла $81,3 млрд, обойдя SpaceX по масштабу размещения. Однако материал сосредоточен не на финансовом рекорде, а на том, сможет ли корпоративное устройство Anthropic удержать её курс на безопасность, когда компании потребуется капитал для развития и наращивания вычислительных мощностей.

Anthropic основана бывшими руководителями исследовательского направления OpenAI и позиционирует безопасность как приоритет. При этом её руководители утверждают, что для выполнения этой миссии компании необходимо опережать конкурентов. В статье The Verge отмечает противоречие: гонка за лидерство требует скорости и ресурсов, тогда как осторожная разработка может вступать с этим в конфликт. Публичный статус, по оценке издания, способен усилить давление на компанию ради выручки и коммерциализации.

Траст может влиять на состав совета, но не на ежедневные решения

Anthropic зарегистрирована как корпорация общественной пользы: совет директоров должен учитывать не только благосостояние акционеров, но и общественную миссию. Дополнительный механизм — Long-Term Benefit Trust (LTBT), созданный в 2023 году. В описании траста говорится о его роли в обеспечении долгосрочной миссии компании.

По данным The Verge, траст технически выбирает четырёх из семи членов совета, однако кандидатуру одного из них должны одобрить основатели. Для выдвижения или отстранения директора траст также должен за 30 дней уведомить комитет по назначениям и корпоративному управлению. В него входят соосновательница Даниэла Амодеи, сооснователь Netflix Рид Хастингс и инвестор Anthropic Ясмин Разави.

В поданной Anthropic регистрационной форме S-1, на которую ссылается издание, полномочия траста описаны в основном как назначение и возможное отстранение части директоров. Траст не наделён правом вмешиваться в повседневное управление или самостоятельно задерживать выпуск модели. Документ S-1 также описывает корпоративную структуру компании.

Эксперты сомневаются в силе надзора

Юрист по корпоративному управлению Энн Липтон заявила The Verge, что траст теоретически мог бы удерживать компанию в рамках её миссии, но усомнилась, насколько вероятно такое вмешательство. Она также поставила под вопрос, достаточно ли у попечителей знаний об ИИ, чтобы оценивать решения компании. Среди названных изданием членов траста — бывший глава Федеральной резервной системы США Бен Бернанке, аналитик внешней политики Ричард Фонтейн, физик Кристофер Стаббс и бывший руководитель GiveWell Нил Бадди Шах.

Представитель Future of Life Institute Хамза Чаудри отметил, что траст и попечители не имеют полномочий принимать повседневные решения, и поэтому не считает траст надёжным ключевым механизмом управления. Бывший сотрудник Anthropic, говоривший с изданием, также усомнился в способности попечителей контролировать основателей. Это оценки собеседников The Verge, а не вывод независимой проверки.

Дополнительное давление может возникнуть из-за потребности Anthropic в деньгах на вычисления и исследования. В статье приводятся слова Даниэлы Амодеи о том, что компании важно не купить слишком много вычислительных мощностей и не ограничить себя нехваткой ресурсов для обслуживания клиентов и исследований. The Verge заключает, что при публичном статусе обосновывать дорогие меры безопасности и замедлять выпуск продуктов может стать сложнее. Сама Anthropic не ответила изданию на запрос о комментарии.