Бывший сотрудник DeepMind рассказал о запрете публично обсуждать риск вымирания
Вишал Майни, работавший в коммуникационной и политической команде лаборатории в 2018–2022 годах, утверждает, что сотрудников просили представлять такие опасения как алармизм. Это его ретроспективное свидетельство, а не опубликованный внутренний документ.
Что утверждает Майни
Вишал Майни, бывший сотрудник коммуникационной и политической команды DeepMind, заявил, что с 2018 по 2022 год публично обсуждать возможность вымирания человечества из-за ИИ не разрешалось никому в организации. По его словам, исследователей учили называть такие опасения алармистскими, сравнивать их с «Терминатором» и переводить разговор на пользу ИИ для здравоохранения или климата.
Майни говорит, что внутри компании признавали нерешённость проблемы согласования ИИ с человеческими целями и нехватку специалистов по этой теме. После нескольких месяцев возражений правила, по его версии, смягчили: публичные материалы о безопасности стали приемлемы, если подавались в позитивном ключе. В качестве примера он приводит публикацию исследователей о создании безопасного ИИ.
Свидетельство одного бывшего сотрудника
Майни считает, что разрыв между внутренними оценками и внешней коммуникацией сокращается, потому что свидетельства риска стало сложнее игнорировать. The Decoder помещает его слова на фоне новых публичных предупреждений исследователей, в том числе сотрудников DeepMind.