Агентство Национальной безопасности США объявило о создании специализированного хаба, в котором планируется консолидировать все направления деятельности агентства, связанные с искусственным интеллектом.
The Artificial Intelligence Security Center станет «фокусной точкой» для таких направлений, как выявление инсайтов в разведывательной деятельности, разработка методических рекомендаций в отношении быстроразвивающихся технологий и создание «инструментов определения рисков в сфере безопасности ИИ». Об этом заявил генерал Пол Накасоуни.
Новое подразделение планируется разместить в Центре кооперации в сфере кибербезопасности АНБ. Одной из заявленных целей будет помочь бизнесу «осознать угрозы их интеллектуальной собственности и... предотвратить и нейтрализовать их».
По словам Накасоуни, ИИ-отдел будет сотрудничать с множеством организаций, связанных с Пентагоном, разведывательным управлением, академическими кругами и зарубежными партнёрами. Сам генерал также возглавляет Киберкомандование США. И АНБ, и Киберкомандование недавно опубликовали исследования об использовании технологий ИИ в ближайшем будущем.
Эти работы показали «отчётливую необходимость» сосредоточиться на безопасности ИИ, и, как отметил Пол Накасоуни, особая ответственность в этом плане лежит именно на АНБ. Ключевое назначение агентства — осуществлять координацию всех систем национальной безопасности. Как выразился генерал, у АНБ уже сформировалась разветвленная система связей в оборонно-промышленном комплексе.
Американский бизнес всё больше тратит на закупки и разработки генеративных ИИ-технологий, но, продолжил Накасоуни, тем же занимаются и стратегические противники США, которые «быстро разрабатывают и реализуют собственные ИИ-решения, так что мы ожидаем, что они вскоре начнут исследовать и пытаться эксплуатировать уязвимости в ИИ-системах США и союзников».
Безопасность ИИ, с точки зрения генерала, заключается в том, чтобы защищать системы искусственного интеллекта от того, чтобы они «узнавали, делали и раскрывали то, что не следует», а также блокировать кибератаки на них и добиваться, чтобы «враждебные стороны за пределами США не имели возможности похитить передовые американские наработки в сфере ИИ».
Пол Накасоуни заключил: сегодня США удерживают лидирующие позиции, но рассматривать их как нечто само собой разумеющееся категорически не стоит. Кто будет руководить новым хабом и насколько масштабным он станет в итоге, генерал не уточнил.
«Учитывая, что представляют собой сегодняшние ИИ-модели, трудно вообразить себе, чтобы революционные технологии какой-либо одной экономики оставались недостижимыми для другой в течение значимого времени. Хороший пример — это те самые генеративные модели, которые с разницей в несколько месяцев появлялись у всех крупных ИТ-компаний», — комментирует Алексей Водясов, технический директор компании SEQ.
«Существует, конечно, чисто теоретическая вероятность, что кто-то (и не обязательно США) вдруг создадут нечто, что изменит все правила игры, но пока такая вероятность невелика и относится скорее к области недоброй фантастики», — добавил он.