Сценарий «интеллектуального взрыва»

Более 20 исследователей AI, среди которых Джеффри Хинтон, Йошуа Бенджио и руководитель исследований OpenAI Якуб Пахоцки, предупреждают о возможном резком ускорении отрасли за счёт самосовершенствующихся систем. В опубликованной работе они пишут, что автоматизация исследований и разработок AI может в ближайшее время запустить «интеллектуальный взрыв», хотя подчёркивают значительную неопределённость.

Почему авторы считают это важным

Согласно работе, системы уже пишут большую часть кода в компаниях-разработчиках. Если AI сможет автоматизировать весь цикл исследований, прогресс, обычно занимающий годы, может укладываться в месяцы. Авторы опасаются, что общественные институты не успеют адаптироваться, а контроль над системами сверхчеловеческого уровня и баланс сил между государствами и компаниями могут ослабнуть.

Призыв к прозрачности

Исследователи предлагают политикам получить более ясное представление о том, какую часть AI-разработки уже выполняют автоматизированные системы. Публикация формулирует возможный сценарий и риски, а не подтверждает, что полная автоматизация или резкий скачок уже произошли.