Компания Gartner предупредила, что специально разработанные приложения на основе ИИ в ближайшие годы создадут серьёзные проблемы для ИБ-команд, если они не будут вовлечены в проекты на ранних этапах.
Эксперты прогнозируют, что к 2028 году как минимум половина усилий по реагированию на инциденты в масштабах предприятия будет направлена на управление последствиями проблем безопасности, связанных с этими приложениями.
«Искусственный интеллект быстро развивается, однако, многие специальные инструменты развёртываются до того, как проводится полное тестирование, — отметил вице-президент и аналитик Gartner Кристофер Микстер. — Эти системы сложны, динамичны и их трудно защитить в долгосрочной перспективе. Большинству ИБ-команд по-прежнему не хватает чётких процессов обработки инцидентов, связанных с ИИ, а это значит, что решение проблем может занять больше времени и потребовать гораздо больших усилий».
По мнению Микстера, «сдвиг влево» позволит безопасникам обеспечить наличие адекватных средств контроля с самого начала. В компании предсказывают, что через два года половина организаций будет применять ИИ-платформы для защиты от сторонних нейросетевых сервисов и специально разработанных приложений.
Такие инструменты помогают командам обеспечивать соблюдение политик допустимого использования, отслеживать активность и имплементировать согласованные меры защиты во всех ИИ-приложениях, защищая их от внедрения ВПО, неправомерного оборота данных и других угроз, заявили аналитики. Платформы «видимости и интеллекта идентификации» на основе ИИ также готовы к стремительному развитию, поскольку компании стремятся улучшить обнаружение и устранение уязвимостей, связанных с идентификацией людей и машин, отметили в Gartner.