Критики призыва замедлить ИИ опасаются роста власти крупнейших лабораторий
Глава Cohere поддерживает независимую оценку сильных моделей, но считает антимонопольные исключения для нескольких лабораторий угрозой конкуренции. В споре о темпах развития смешались вопросы безопасности, правил рынка и политических взглядов на ИИ.
Опасение: правила могут закрепить позиции лидеров
Глава и сооснователь Cohere Эйдан Гомес выступил против призыва главы Anthropic Дарио Амодеи координировать замедление разработки передовых моделей. Гомес поддерживает независимое тестирование мощных систем, но считает, что предложенные антимонопольные исключения позволили бы нескольким крупнейшим лабораториям совместно задавать правила, обязательные для остальных разработчиков.
По его аргументу, необходимые для такой системы вычислительные мощности, постоянная инфраструктура мониторинга и отдельные команды оценки создадут высокие барьеры для новых участников. Гомес также сомневается в независимости проверяющих, если их финансируют компании, которые они должны оценивать. Он называет это риском концентрации рынка; это позиция руководителя конкурирующей ИИ-компании, а не установленный эффект предложения.
Спор о безопасности стал политическим
В материале описаны и политические реакции. Президент США Дональд Трамп отверг предупреждения об экзистенциальной опасности ИИ и выступил за сохранение лидерства в соревновании с Китаем. Руководитель технологического направления Министерства обороны Эмиль Майкл поддержал критику таких предупреждений. Барак Обама, Берни Сандерс и Камала Харрис, напротив, поддержали замедление и повышение прозрачности.
Текущий спор не сводится к выбору между безопасностью и развитием: сторонники надзора говорят о рисках плохо контролируемых систем, а критики — о том, кто получит право устанавливать стандарты и оплачивать проверки. Публикация фиксирует позиции участников дискуссии, но не показывает, что отрасль согласовала конкретный режим регулирования.