Согласно новому отчёту компании Cobalt, занимающейся наступательной безопасностью, около половины (48%) ИБ-специалистов считает, что необходима «стратегическая пауза» в развёртывании генеративного ИИ для перенастройки защиты.
94% опрошенных руководителей и безопасников заявило, что за последние 12 месяцев они наблюдали значительный рост внедрения GenAI в своей отрасли. Однако 36% респондентов признало: темпы развёртывания превышают возможности их команд.
Технический директор Cobalt Гюнтер Оллманн уверен, что сейчас нереально делать стратегическую паузу, учитывая преимущества, которые обсуждаемая технология даёт компаниям: «Угрозы не ждут, и команды безопасности тоже. Наши исследования показывают, что, хотя GenAI меняет то, как мы работаем, он также переписывает правила риска. Основы безопасности должны развиваться параллельно, иначе мы рискуем построить завтрашние инновации на сегодняшних устаревших мерах безопасности».
Между тем 72% ИБ-специалистов назвало генеративный ИИ своим главным риском. Основные же ИИ-угрозы, обозначенные участниками опроса, связаны с безопасностью и точностью данных, предоставляемых нейросетями. Так, раскрытие конфиденциальной информации стало наиболее часто упоминаемым риском (его привело 46% респондентов). Далее следуют отравление и кража модели данных (42%), неточные данные (40%) и утечка обучающих данных (37%). Несмотря на высокий уровень беспокойства, треть групп по безопасности не проводит регулярные оценки (включая тестирование на проникновение) в рамках развёртывания больших языковых моделей.
В Cobalt, тем не менее, пришли к выводу, что основные передовые практики безопасности веб-приложений остаются весьма актуальными при работе с LLM. К ним относятся надёжная проверка входных данных, безопасные методы кодирования и правильная настройка базовых систем.