США, Великобритания, Европейский союз и ещё ряд государств подписали глобальный договор об использовании ИИ, который направлен на «защиту прав человека, демократии и верховенства закона».
Документ фокусируется на защите прав человека, которые затрагиваются системами ИИ, и отделён от Закона ЕС об ИИ, вступившего в силу в прошлом месяце. Закон предусматривает «общие» правила разработки, развёртывания и использования систем ИИ на внутреннем рынке ЕС.
Договор предполагает, что разработчики ИИ обязаны будут внедрять в свои инструменты механизмы оценки, контроля и смягчения рисков, а пользователям дадут возможность подавать жалобы на нарушение технологиями их прав. Норма касается как частных, так и государственных разработчиков и обязывает предпринимать «коллективные действия» для управления ИИ-продуктами и защиты общественности от потенциального неправомерного их использования.
Каждый подписавший также обязуется принять меры, чтобы на всех стадиях жизненного цикла систем искусственного интеллекта обеспечивалась защита прав на неприкосновенность частной жизни и персональных данных, а также вводились эффективные меры защиты в соответствии с внутренними и международными юридическими обязательствами.
Новая структура требует не только тестирования систем ИИ перед релизом, но и повторных испытаний, когда модели дорабатываются. Это означает, что разработчики обязаны осуществлять постоянный мониторинг своих разработок и предоставлять его результаты в соответствующие органы.