По данным Gartner, продвижение ИИ-технологий, меняющиеся нормативные требования и риск краха больших языковых моделей в ближайшие два года будут способствовать внедрению подходов к управлению данными на основе принципа нулевого доверия.
К тому моменту, как книги, научные статьи, репозитории кода и другие источники начнут содержать всё больше материалов, сгенерированных нейросетями, будущие LLM, задействованные в сборе данных из этих источников, фактически будут обучаться на результатах предыдущих моделей. Это приведёт к снижению их точности, увеличит количество ложных срабатываний и повысит уровень предвзятости. Как результат, примерно половина мировых организаций перейдёт к управлению информацией на основе принципа нулевого доверия, прогнозируют аналитики.
«По мере того, как контент, сгенерированный ИИ, становится всё более распространённым, ожидается, что нормативные требования к проверке данных, не содержащих ИИ, в некоторых регионах усилятся, — отметил управляющий вице-президент Gartner Ван Фуй Чан. — В условиях постоянно меняющегося регулирования все станут идентифицировать и помечать материалы, генерируемые ИИ. Большую роль будут играть наличие правильных инструментов и квалифицированных специалистов, а также решения по управлению метаданными».
По мнению экспертов, мировые организации могут опередить любые предстоящие изменения в регулировании и получить конкурентное преимущество, сосредоточившись на способах анализа, оповещения и автоматизации принятия решений в отношении информационных активов. Предлагаются следующие шаги:
- Назначить ответственного руководителя для тесного сотрудничества с командами по работе с данными и аналитикой (D&A) по вопросам политики нулевого доверия, управления ИИ-рисками и соответствия нормативным требованиям.
- Сформировать межфункциональные команды из отделов кибербеза, D&A и других подразделений компании для проведения оценки рисков.
- Использовать существующие политики и структуры управления D&A, а также обновить политики безопасности, управления метаданными и этики для снижения новых рисков, связанных с нейросетями.
- Внедрить активные методы работы с метаданными, которые будут в режиме реального времени оповещать о том, что информация устарела или требует повторной сертификации. Это поможет организациям быстро выявлять случаи, когда критически важные для бизнеса системы могут пострадать из-за неточности или предвзятости.