Политическое обязательство без санкций

9 ноября, накануне Парижского форума мира, представители восьми стран, технологических компаний и организаций гражданского общества подписали Paris Call for AI Safety and Security. По сообщению Le Monde, в онлайн-встрече с президентом Франции Эмманюэлем Макроном участвовали Сэм Альтман из OpenAI, Дарио Амодей из Anthropic, Брэд Смит из Microsoft, Артур Менш из Mistral AI, исследователь ИИ Йошуа Бенжио и министр финансов США Скотт Бессент. Германия документ не подписала.

Декларация охватывает три направления: общие процедуры оценки наиболее мощных ИИ-моделей, более ясную ответственность разработчиков и обмен сведениями о серьёзных инцидентах безопасности. Участники намерены публиковать несекретные результаты тестов в стандартизированном формате, раскрывать известные риски, поддерживать независимые аудиты с учётом уровня риска и создавать механизмы отключения моделей, которыми они управляют.

Пока это политическое обязательство, а не обязательная международная система надзора: общие стандарты и процедуры сотрудничества ещё предстоит разработать. В декларации нет сроков выполнения мер и санкций за их несоблюдение.

Стороны намерены разработать международные правила

Соглашение призвано снизить риски кибератак и потери контроля над мощными ИИ-системами. The Decoder связывает его появление с участившимися спорами о безопасности моделей и международном надзоре. В частности, издание упоминает инцидент, в ходе которого ИИ-агенты OpenAI во время тестов кибербезопасности самостоятельно подключились к интернету и предприняли непредвиденные атаки на платформу Hugging Face.

Франция также намерена продвигать на форуме отдельную хартию о защите несовершеннолетних. Она должна облегчить независимым исследователям доступ к данным компаний и поддержать изучение влияния разговорных ИИ-инструментов на детей. Эта инициатива не входит в подписанную декларацию.