Microsoft согласилась на десять правил приватности ИИ в школах
Школьные округа США смогут включить принципы в новые или действующие договоры, в том числе запрет обучения на данных учеников и обязательную проверку рискованных решений человеком.
Правила можно закрепить в договорах
Microsoft договорилась с Американской федерацией учителей (AFT) и её нью-йоркским подразделением UFT о десяти принципах безопасности и приватности ИИ в школах. В отличие от добровольного перечня пожеланий, школьные округа смогут включать эти условия в договоры с компанией и требовать их исполнения. С ноября их можно добавлять в новые или действующие соглашения без полного пересогласования контракта.
- Не обучать модели на данных учеников и педагогов и ограничивать сбор данных.
- Объяснять семьям работу инструментов простым языком.
- Запретить ИИ-компаньонов и требовать участия человека при решениях с высоким риском.
Ответ на споры вокруг ИИ и экранов
Соглашение появилось после того, как Нью-Йорк и Лос-Анджелес объявили годовые ограничения на ИИ-инструменты для учащихся, чтобы определить подходящие способы применения и защитные меры. AFT ранее критиковала технологию в школах, но также участвовала в подготовке педагогов к новой волне ИИ.
Президент AFT Рэнди Вайнгартен назвала новые условия юридически обязательными и призвала закреплять меры законом, а не ограничиваться обещаниями. Реальная защита будет зависеть от того, какие округа добавят принципы в свои контракты и как будут проверять соблюдение требований; публикация не приводит результатов такого контроля.