Более 20 исследователей предупреждают о возможном ускорении AI-разработки до месяцев
Авторы новой работы считают, что автоматизация исследований AI может ускорить прогресс и осложнить контроль. Они подчёркивают неопределённость сроков и призывают повысить прозрачность.
Сценарий «интеллектуального взрыва»
Более 20 исследователей AI, среди которых Джеффри Хинтон, Йошуа Бенджио и руководитель исследований OpenAI Якуб Пахоцки, предупреждают о возможном резком ускорении отрасли за счёт самосовершенствующихся систем. В опубликованной работе они пишут, что автоматизация исследований и разработок AI может в ближайшее время запустить «интеллектуальный взрыв», хотя подчёркивают значительную неопределённость.
Почему авторы считают это важным
Согласно работе, системы уже пишут большую часть кода в компаниях-разработчиках. Если AI сможет автоматизировать весь цикл исследований, прогресс, обычно занимающий годы, может укладываться в месяцы. Авторы опасаются, что общественные институты не успеют адаптироваться, а контроль над системами сверхчеловеческого уровня и баланс сил между государствами и компаниями могут ослабнуть.
Призыв к прозрачности
Исследователи предлагают политикам получить более ясное представление о том, какую часть AI-разработки уже выполняют автоматизированные системы. Публикация формулирует возможный сценарий и риски, а не подтверждает, что полная автоматизация или резкий скачок уже произошли.