Microsoft приняла обязательные требования к безопасности и конфиденциальности систем искусственного интеллекта, которые используются в американских школах. Национальный стандарт компания согласовала с Американской федерацией учителей (AFT) — вторым по величине учительским профсоюзом США — и нью-йоркской United Federation of Teachers (UFT). Документ объявлен 9 сентября, а применяться начнёт с 1 ноября ко всем школьным контрактам Microsoft в стране.
Стандарт запрещает «ИИ-компаньонов и функции, которые могут формировать у школьников эмоциональную привязанность или зависимость». Слежение за учениками не допускается, а решения, затрагивающие учащихся, искусственный интеллект не может принимать без участия человека.
Данные школьников и преподавателей запрещено использовать для обучения ИИ-моделей — исключение сделано лишь для ограниченного набора сведений, необходимых для защиты самих учеников. Продавать эти данные, передавать их третьим сторонам или применять в рекламе компания также не вправе.
Отдельный блок требований касается прозрачности: Microsoft обязана объяснять семьям простым языком, как работают её инструменты, какие данные они собирают, какие несут риски и что меняется в продуктах. Защиты названы юридически обязывающими — школьные округа смогут расторгать соглашения и требовать возмещения убытков при нарушениях. Добавить новые условия к действующим контрактам округа смогут без их пересмотра.
Документ подписали вице-председатель и президент Microsoft Брэд Смит, президент AFT Рэнди Вайнгартен и президент UFT Майкл Мулгрю. AFT объединяет около 1,8 млн работников образования, UFT — примерно 200 тысяч человек в Нью-Йорке.
Пока Microsoft остаётся единственной компанией, подписавшей стандарт. В AFT рассчитывают, что к нему присоединятся OpenAI и Anthropic: обе вместе с Microsoft участвуют в созданной профсоюзом Национальной академии обучения ИИ. Вопрос о правилах для нейросетей в классах обсуждают не только в США — в Казахстане элементы искусственного интеллекта с 1 сентября включили в школьную программу, отдельным предметом его не выделяя.
