Руководители OpenAI, xAI и Google DeepMind поддержали независимую проверку ИИ
Сэм Альтман, Илон Маск и Демис Хассабис частично поддержали призыв Дарио Амодеи к надзору за лабораториями. Исследователь Google Пейман Миланфар возразил, что обратные связи самоулучшения сами ограничат скорость систем.
Лидеры согласны с независимым контролем
Глава OpenAI Сэм Альтман, Илон Маск и бывший руководитель DeepMind Демис Хассабис по меньшей мере частично поддержали предложения главы Anthropic Дарио Амодеи о независимом надзоре за ИИ-лабораториями. Их согласие касается проверки и контроля разработчиков, но публикация не утверждает, что они полностью поддерживают единый план или конкретное ограничение скорости обучения.
Альтман также сказал Fortune, что OpenAI не выйдет на биржу в этом году, сославшись на вопросы безопасности. The Decoder добавляет альтернативное объяснение: компания могла отложить IPO и из-за финансового положения. Источник не устанавливает, какая причина была решающей.
Критик считает самоулучшение нестабильным
Исследователь Google Пейман Миланфар выступил против идеи ограничивать скорость развития через внешние правила. Он считает рекурсивное самоулучшение наивным предположением, поскольку обратные связи системы могут быть неустойчивы, а свидетельства о реальных возможностях появляются только в работе вне benchmark-тестов. По его мнению, устойчивые системы сами окажутся медленными и ограниченными.
Обсуждение показывает, что даже сторонники дополнительного надзора по-разному оценивают вероятность и управляемость самоулучшения. В материале нет согласованного набора правил или свидетельств, что лидеры договорились о совместном замедлении разработки.