Эксперты США и Китая предложили сохранить контроль человека над ядерными решениями
Исследователи Brookings и Фуданьского университета предложили запретить автономный запуск ядерного оружия и атаки ИИ на системы ядерного командования. Это рекомендации экспертов, а не принятое соглашение между правительствами.
Какие решения предлагают оставить человеку
Мелани Сиссон из Brookings Institution и Тяньцзяо Цзян из Фуданьского университета предложили совместные правила США и Китая для военного ИИ. Они считают, что ИИ не должен самостоятельно запускать ядерное оружие или атаковать системы управления ядерными силами. Контроль человека также предлагается сохранить за решениями об ИИ-кибератаках на стратегическую инфраструктуру. Авторы рекомендуют договориться, что именно означает «человеческий контроль».
Связь при автоматической реакции
Цзян предложил создать горячую линию для инцидентов с ИИ. Если оборонительная система автоматически ответит на подозрительную активность, другая сторона может принять такой ответ за нападение. Прямая связь позволила бы правительствам быстро уточнить, было ли событие случайным.
Предложения развивают соглашение Байдена и Си Цзиньпина от ноября 2024 года о сохранении человеческого контроля над ядерным оружием. Однако обязательного механизма совместной реализации таких принципов пока нет.
Эксперты спорят о практической реализуемости
Карла Фриман из Johns Hopkins University сомневается, что горячая линия сработает в кризисе: во время инцидента с китайским аэростатом-разведчиком в 2023 году Китай не ответил на звонок США. Поэтому публикация описывает дипломатические рекомендации, а не согласованную систему предотвращения эскалации.