Центробанк придерживается риск-ориентированного принципа регулирования искусственного интеллекта в финансовой сфере, говорится в докладе регулятора о применении ИИ на финрынке.
Под ИИ Банк России понимает комплекс технологических решений, позволяющий имитировать когнитивные функции человека и при выполнении конкретных задач получать результаты, сопоставимые с результатами его интеллектуальной деятельности.
Сам комплекс технологических решений включает в себя ПО, информационно-коммуникационную инфраструктуру, процессы и сервисы по обработке данных и поиску решений. Банк России выделяет три категории рисков по необходимости их регулирования: не требующие вмешательства вообще, которые могут быть ограничены за счёт саморегулирования и рекомендаций, а также требующие внимания регуляторов. Чётких критериев привязки рисков к категориям нет. Вместо этого регулятор предлагает подготовить кодекс этики применения ИИ на финансовом рынке, который будет учитывать специфику применения технологии при оказании финансовых услуг.
Действующее регулирование финансового рынка в некоторых случаях уже устанавливает требования к применению различных моделей, в тои числе основанных на технологиях традиционного ИИ.
Внедрение ИИ может оказывать влияние как на бизнес-процессы отдельных участников рынка, так и на финансовую систему в целом, отмечается в докладе. Одной из основных групп угроз для финансового сектора Банк России называет риски, связанные с ошибками при разработке модели и неверным интерпретированием результатов работы ИИ. Другой важной группой являются риски информационной безопасности, в частности, утечки персональных данных или сведений, содержащих банковскую, страховую, налоговую или иной вид тайны, хакерские атаки и подмена данных для обучения моделей ИИ.
Также ЦБ выделяет этические риски, в том числе связанные с предвзятостью, дискриминацией, выявлением ложных корреляций и непрозрачными решениями ИИ. Это происходит из-за неверных настроек моделей или ограничения данных для обучения и анализа. Реализация всех этих рисков может привести к финансовым потерям, ошибочным решениям, репутационным последствиям, а также к паническому поведению значительного количества субъектов экономики и нарушению нормального функционирования финансового рынка.
К рискам конкуренции в докладе относится использование крупными компаниями своего доминирующего положения на рынке, что может привести к смещению вектора развития ИИ в сторону крупных заказчиков, станет барьером для небольших компаний и приведёт к ограничениям для распространения технологий.
Банк России отмечает важность самостоятельного управления финансовыми организациями рисками, связанными с применением ИИ, и выстраивания в финансовых организациях, применяющих ИИ, системы управления такими рисками, учитывающей характер и масштаб таких рисков, а также особенности применяемых программ на основе ИИ.
Регулятор констатирует, что широкое распространение использования генеративного ИИ и расширение сфер использования технологии ИИ в целом на финансовом рынке могут быть сопряжены с появлением новых, специфических для данной технологии рисков, требующих дополнительного анализа и оценки.
Выявление факторов, значимых для определения необходимости регуляторного вмешательства, будет осуществляться в рамках систематического мониторинга Банка России. При этом необходимость разработки отдельных подходов и методов регулирования этих рисков целесообразно оценивать по результатам всестороннего обсуждения с участниками рынка с учётом риск-факторов. В таком случае при введении новых требований целесообразно проводить тщательную оценку регуляторного воздействия таких требований, а также оценивать их пропорциональность уровню риска, возникающему при внедрении и эксплуатации технологии ИИ.
При формировании необходимых требований Центробанк будет использовать принципы риск-ориентированного подхода, позволяющего финансовым организациям внедрять новые технологии и развивать ИИ, при этом обеспечивая необходимый уровень системы управления рисками.
ЦБ РФ в целом придерживается технологически нейтрального подхода к регулированию, позволяющего финансовым организациям внедрять новые технологии и развивать ИИ, и на данный момент не видит необходимости в оперативной разработке отдельного регулирования использования технологии ИИ финансовыми организациями, говорится в докладе.
Внедрение специальных требований, ориентированных исключительно на ИИ (к примеру, сертификации алгоритмов, требований к их архитектуре или размеру обучающих выборок), может быть рассмотрено в отдельных случаях после дополнительного анализа и изучения, так как указанные требования менее адаптивны и их пересмотр может не успевать за развитием технологий ИИ.