Александр Шойтов, заместитель министра цифрового развития, связи и массовых коммуникаций Российской Федерации, ответил на вопросы BIS Journal в рамках прошедшего в мае 2023 г. ежегодного форума, посвящённого вопросам информационной безопасности, Positive Hack Days.
- Известно, что в конце прошлого года был создан Национальный технологический центр цифровой криптографии (НТЦ ЦК). Хотелось бы от вас узнать, услышать, какие надежды вы возлагаете на Национальный технологический центр цифровой криптографии, что он собой представляет? Зачем создан? Когда начнёт полноценно работать?
- Автономная некоммерческая организация «НТЦ ЦК» создана 29 декабря 2022-го года. Проект давно готовили, он заложен в Федеральный проект «Информационная безопасность» Национальной программы «Цифровая экономика России 2024». Основные цели НТЦ ЦК - собрать на одной площадке научное сообщество, регуляторов и бизнес, как представителей бизнеса по информационной безопасности, так и ИТ. Сфера деятельности НТЦЦК - так называемое внедрение гражданской криптографии.
Традиционная модель: создаётся информационная система, потом система информационной безопасности, потом она согласовывается и регулируется. В текущих условиях, в масштабах, когда вся система цифровой экономики, — это страна, традиционная модель фактически неэффективна. Поэтому было предложено создать единый центр притяжения - НТЦ ЦК. Это автономная некоммерческая организация, учредители - Российская Федерация и три компании, лидеры в области разработки криптографической защиты информации. В наблюдательный совет войдёт большое количество представителей федеральных органов исполнительной власти.
Мы решаем задачи именно внедрения современной криптографии, которая разрабатывается, в существенной степени, с учётом специфики технологий двойного назначения, в специализированных организациях. У нас хорошая криптография, но речь идёт о том, чтобы её максимально быстро и эффективно внедрить, чтобы гарантировать необходимую защиту информации, с одной стороны. С другой стороны, чтобы это было быстро и экономически эффективно.
- Судя по угрозам и рискам, с которыми мы столкнулись в прошлом году, создание НТЦ ЦК стало очень своевременным и очень правильным решением. Будем следить за его работой.
- Да, первые результаты ждём к концу 2023-го года. Полноценная техническая структура будет создана к концу 2024-го года. Тогда НТЦ ЦК заработает уже полноценно.
- Хотелось бы немножко поговорить о современных технологиях. Сейчас много говорят про искусственный интеллект и его возможности. Ваше мнение по этому поводу в разрезе вопросов информационной безопасности?
- Искусственный интеллект появился достаточно давно, машинное обучение и т.д. Но развитие вычислительных средств в последнее десятилетие, может быть, два десятилетия, действительно позволяют добиться кардинально новых результатов по многим направлениям. Распознавание речи и видео, например, может принести очень большую пользу. Поэтому необходимо, конечно, обязательно внедрять эти технологии.
Есть указания президента Российской Федерации о том, что нужно делать. Спрос на искусственный интеллект действительно несёт ряд существенных рисков информационной безопасности. Это обсуждается во всём мире, и готовых полноценных решений по всем направлениям нет. Но есть существенные подходы. Поэтому здесь действительно нужно закладывать необходимые меры ИБ прямо на ранней стадии разработки соответствующих решений искусственного интеллекта. И находить баланс по скорости внедрения этого ИИ с учётом ограничений. Об этом говорят и во всём мире.
Я бы выделил два направления. Первое — это безопасность самих данных. Если говорим про персональные данные, это вопросы обезличивания персональных данных. Они в существенной степени сейчас научно проработаны, но как бы окончательных решений ещё нет. Вот они на подходе, в том числе в НТЦ ЦК мы планируем выдать некоторые из решений к концу этого года и, соответственно, в следующем году.
Второе — это безопасность самого искусственного интеллекта с точки зрения его функционирования. Принципиально ситуация меняется в случае, когда мы не просто используем ИИ для помощи человеку или аналитики, а когда начинаем передавать ему право в определённой степени или полностью принимать решения, например, управление транспортными средствами.
Это кардинальная грань, и здесь нужно принять все исчерпывающие меры.
- Действительно, возникает много вопросов о рисках, когда смотришь на беспилотный автомобиль и другие критические системы с искусственным интеллектом. Сейчас активно обсуждается вопрос принятия «Кодекса этики в области искусственного интеллекта». Вопрос: когда он будет принят, разработан ли этот Кодекс и зачем он нужен?
- Занимаются разработчики, коммерческие организации. В первую очередь, Ассоциация больших данных и другие. Этот проект не прямо государственный, а, скорее, коммерческий. Аналогичные кодексы также разрабатываются в других странах мира.
Это добровольное регулирование или некоторое саморегулирование: если присоединяешься, то выполняешь определённые требования. Это хорошая инициатива. Но хочу подчеркнуть, что это обязательно должно быть дополнением к государственному регулированию.
В критических областях, о которых мы с вами только что говорили, нужно непосредственно прямое государственное регулирование. Не Кодекс, а пока всё точно не выполнил, тебя не допускают, ни лицензируют, ни сертифицируют. Ты не можешь эксплуатировать соответствующие решения.
В дополнительной сфере, где не столь критично, конечно, это будет хорошо. И эти два новых направления должны в итоге сходиться. То есть мы жёстко регулируем, но, с другой стороны, бизнес находит решения, и когда они сойдутся и будут приемлемы для обеих сторон, это будет итоговый правильный баланс, с моей точки зрения.
- Спасибо большое, Александр Михайлович, за исчерпывающий ответ.