Что утверждает Майни

Вишал Майни, бывший сотрудник коммуникационной и политической команды DeepMind, заявил, что с 2018 по 2022 год публично обсуждать возможность вымирания человечества из-за ИИ не разрешалось никому в организации. По его словам, исследователей учили называть такие опасения алармистскими, сравнивать их с «Терминатором» и переводить разговор на пользу ИИ для здравоохранения или климата.

Майни говорит, что внутри компании признавали нерешённость проблемы согласования ИИ с человеческими целями и нехватку специалистов по этой теме. После нескольких месяцев возражений правила, по его версии, смягчили: публичные материалы о безопасности стали приемлемы, если подавались в позитивном ключе. В качестве примера он приводит публикацию исследователей о создании безопасного ИИ.

Свидетельство одного бывшего сотрудника

Майни считает, что разрыв между внутренними оценками и внешней коммуникацией сокращается, потому что свидетельства риска стало сложнее игнорировать. The Decoder помещает его слова на фоне новых публичных предупреждений исследователей, в том числе сотрудников DeepMind.