«К2 Кибербезопасность» и «Лаборатория Касперского» провели исследование подходов российского бизнеса к безопасному использованию ИИ-технологий. Респондентами выступили специалисты из более чем двух сотен крупных российских компаний из ИТ-сферы, финсектора, торговли, телекома, строительства и фармацевтики.
Выяснилось, что 41% использует искусственный интеллект для генерации контента, 37% — для аналитики данных, 37% — разработки ПО, 27% — в HR-процессах, 22% — в клиентских сервисах. При этом 43% опрошенных заявило, что при недоступности ИИ-сервисов их бизнес продолжит функционировать, но с потерями (32% — с умеренными, 11% — с критическими).
Нейросети уже не просто инструмент повышения удобства и ускорения рутинных операций. В ряде компаний он влияет на процессы, сбои в которых могут привести к существенным убыткам.
«Искусственный интеллект уже влияет на непрерывность бизнеса и должен рассматриваться как компонент операционной устойчивости. Поэтому в ближайшие годы основным вызовом будет внедрение зрелых практик по управлению ИИ-рисками. За последнее время участились инциденты с негативными последствиями от использования ИИ: генерация токсичного контента от имени компании, загрузка сотрудниками конфиденциальной информации и внутренних протоколов в публичные модели, внедрение вредоносных запросов и т. д. Согласно опросу, уже 25% компаний считает, что безопасность ИИ входит в топ-5 приоритетов бизнеса. При этом пока только 22% выделило на это отдельный бюджет. Эти организации показывают зрелый подход, встраивая новый класс рисков в систему своего стратегического планирования», — прокомментировал результаты Александр Лысенко, ведущий эксперт по безопасности разработки и ИИ в «К2 Кибербезопасности».
59% респондентов не ограничивается одним типом ИИ-сервисов, а использует сразу несколько: российские, зарубежные, собственные или заказную разработку. Основные причины таковы: боты справляются с разными задачами с разной эффективностью, под каждый процесс используется отдельный инструмент, имеют место индивидуальные предпочтения пользователей.
75% компаний работает с отечественными публичными сервисами, 60% — с зарубежными. Доминирование российских продуктов ожидаемо: бизнес стремится соответствовать требованиям законодательства и соблюдать политику импортозамещения.
«Примечательно, что 38% корпораций уже имеет собственные команды по разработке ИИ-решений для внутренних процессов. Это свидетельствует о том, что искусственный интеллект воспринимается как стратегический актив, который предпочитают развивать самостоятельно. При этом, по результатам исследования, в 75% случаев эти процессы полностью или частично не соответствуют стандарту управления безопасностью собственных ИИ-разработок — MLSecOps. С управленческой точки зрения эти результаты демонстрируют разрыв: темпы внедрения ИИ уже опережают зрелость процессов, необходимых для контроля связанных с ним рисков. Рынок MLSecOps находится на этапе становления, и компании пока не понимают, как защищать собственные ИИ-разработки самостоятельно», — отметил Александр Лысенко.
«Чем быстрее искусственный интеллект превращается в рабочую инфраструктуру, тем выше потребность в том, чтобы его безопасность перестала быть набором разрозненных инициатив. Доля компаний с управляемыми процессами по защите собственной ИИ-разработки пока составляет всего 18%, а зрелая практика MLSecOps есть только у 7%. В большинстве случаев (60%) безопасность обеспечивается исключительно силами разработчиков, без привлечения ИБ-отдела, что значительно повышает риски возникновения инцидентов. Практическим подходом должна быть синергия бизнеса, ИБ и разработки: интеграция требований безопасности в дорожные карты продуктов, разработка политик безопасности с учётом обратной связи от бизнес-подразделений и регулярный аудит процессов», — добавил со своей стороны Владислав Тушканов, руководитель группы исследования технологий машинного обучения в «Лаборатории Касперского».