Ориол Виньялс ожидает медленного самоулучшения ИИ
Бывший руководитель исследований Google DeepMind считает, что ИИ сможет ускорять отдельные этапы разработки в десять и более раз, но не ожидает внезапного «взрыва интеллекта». Для прогресса всё ещё нужны эксперименты и оценка результатов.
Самоулучшение без резкого скачка
Бывший вице-президент по исследованиям Google DeepMind Ориол Виньялс считает, что системы ИИ со временем начнут помогать улучшать следующие поколения моделей. По его оценке, процесс будет медленным: ИИ может ускорить отдельные исследовательские и инженерные задачи в десять и более раз, но сценарий внезапного саморазгоняющегося «взрыва интеллекта» маловероятен.
Понятие самоулучшения охватывает разные изменения: от весов и обучающих данных до инструкций, подключённых инструментов и метрик оценки. Для полезного улучшения системе нужна перспективная идея, реализация кода, эксперименты и надёжное измерение результата.
Ограничения текущего подхода
Виньялс выделяет два узких места, мешающих такому циклу: способность системы генерировать работающие идеи и проверять их экспериментально. Поэтому ускорение отдельных задач не означает, что ИИ сможет полностью заменить исследовательский процесс или самостоятельно повышать собственные возможности без контроля.
Это прогноз бывшего руководителя исследовательской группы, а не установленный срок или неизбежная траектория развития. Материал также сообщает, что после ухода из Google DeepMind Виньялс запускает стартап, связанный с этими ограничениями.
Виньялс предлагает не путать разные уровни вмешательства: модель может менять веса, обучающие данные или методы обучения, но также инструкции, набор инструментов и саму метрику успеха. Для самостоятельного улучшения нужны идеи, код, эксперименты и надёжная оценка результата; именно генерация перспективных идей и проверка прогресса остаются, по его мнению, узкими местами.
Обычные тесты вроде SWE-Bench Pro и ML-Bench доступны и понятны, но проверяют те части процесса, которые уже автоматизируются, и могут поощрять подгонку под метрику. Проверка с заданной целью и ограниченным бюджетом ближе к реальному исследованию, но обходится дорого и требует времени. Виньялс также выделяет «научный вкус» — способность выбирать перспективные идеи; собственный стартап он создаёт для работы над генерацией гипотез и объективной оценкой результатов.