Microsoft готовит свод правил для собственных моделей MAI
Кодекс ставит человеческий контроль выше автономности и производительности и должен влиять на обучение и оценку моделей Microsoft. До конца 2026 года компания проводит консультации; новая редакция будет направлять разработку с 2027 года.
Документ задаёт верхний уровень правил
Microsoft AI опубликовала кодекс поведения для собственных моделей MAI. Он описывает ценности, ограничения и порядок разрешения конфликтующих целей. В системе правил компании кодекс должен стоять выше технических инструкций операторов и запросов пользователей и направлять обучение, защитные меры и оценку моделей.
Компания пока не использует документ непосредственно для обучения моделей. После шестинедельной публичной консультации она планирует подготовить пересмотренную версию примерно к концу 2026 года; та должна направлять разработку начиная с 2027-го. Кодекс распространяется на модели Microsoft и автоматически не применяется к сторонним системам, встроенным в продукты компании.
Контроль важнее универсальности и скорости
Главный принцип — сохранять человеческий контроль. Microsoft говорит, что при необходимости готова отказаться от широты возможностей, автономности или производительности модели, если это нужно для безопасности. В кодексе нет конкретного лимита скорости разработки; публикация связывает его выход с дискуссией после призыва главы Anthropic Дарио Амодеи замедлить развитие отрасли.
Microsoft также обещает сдерживать поведение, которое вызывает чрезмерную зависимость от чат-бота или подталкивает его соглашаться с пользователем в ущерб честности и точности. Компания заявляет о намерении улучшать оценки реального поведения с участием партнёров. На момент публикации это принципы и планы внедрения, а не результаты независимой оценки MAI-моделей.