Microsoft опубликовала кодекс ИИ с приоритетом человеческого контроля
В 37-страничном документе компания заявляет, что люди важнее моделей, а ИИ не следует проектировать как сознательное существо или добиваться для него прав. Кодекс также направлен против эмоциональной зависимости и требует дальнейшей проверки реальных последствий.
Компания отвергает имитацию сознания и права ИИ
Microsoft выпустила 37-страничный «гуманистический кодекс поведения ИИ» на фоне споров о темпах развития систем. Документ утверждает, что люди важнее ИИ, модели не являются сознательными и их не следует проектировать так, чтобы они изображали сознание. Microsoft также отвергает идею юридической личности, благополучия или прав для моделей.
Эти положения расходятся с подходом Anthropic, которая считает возможный субъективный опыт моделей открытым вопросом и допускает формирование устойчивой идентичности Claude. Руководитель Microsoft AI Мустафа Сулейман прежде называл подобные рассуждения опасными. Отличие касается принципов разработки и представления модели; публикация не доказывает, что одна из компаний установила наличие или отсутствие сознания у ИИ.
Правила охватывают поведение собственных моделей Microsoft
Кодекс относится к собственным моделям Microsoft и должен влиять на их обучение и работу. Среди обязательств — избегать сценариев чрезмерной зависимости пользователей от чат-бота и добиваться внешней оценки поведения в реальных условиях. Генеральный директор Microsoft Сатья Наделла также поддержал более широкое тестирование сторонними организациями и принцип, что ИИ должен оставаться под контролем людей.
Компания заявляет о готовности обсуждать реальные последствия длительного использования ИИ для людей и организаций. Кодекс выражает позицию Microsoft и не означает автоматического распространения на сторонние модели, доступные через её продукты. Независимое применение этих принципов к системам компании ещё требует проверки.