Искусственно-интеллектуальная безопасность
Агентство Национальной безопасности США объявило о создании специализированного хаба, в котором планируется консолидировать все направления деятельности агентства, связанные с искусственным интеллектом.
Получивший название The Artificial Intelligence Security Center (в зависимости от контекста это можно перевести как «Центр безопасности искусственного интеллекта» или как «Центр обеспечения безопасности с помощью ИИ») станет «фокусной точкой» для таких направлений, как выявление инсайтов в разведывательной деятельности, разработка методических рекомендаций в отношении быстроразвивающихся технологий и создание «инструментов определения рисков в сфере безопасности ИИ».
Об этом на днях заявил генерал Пол Накасоуни (Paul Nakasone), выступает в Национальном Пресс-Клубе в Вашингтоне.
Новое подразделение планируется разместить в Центре кооперации в сфере кибербезопасности АНБ. Одной из заявленных целей будет помочь бизнесу «осознать угрозы их интеллектуальной собственности и... предотвратить и нейтрализовать их».
По словам Накасоуни, ИИ-подразделение АНБ будет сотрудничать со множеством организаций, связанных с Пентагоном, разведывательным управлением, академическими кругами и зарубежными партнерами.
Генерал Накасоуни также возглавляет Киберкомандование США. И АНБ, и Киберкомандование недавно опубликовали исследования об использовании ИИ в ближайшем будущем.
Кое-что ИИ не должен ни знать, ни уметь, ни раскрывать
Эти работы показали «отчетливую необходимоссть» сосредоточиться на безопасности ИИ, и, как отметил генерал Накасоуни, особая ответственность в этом плане лежит именно на АНБ. Ключевое назначение агентства - осуществлять координацию всех систем безопасности страны. Как выразился Накасоуни, у АНБ уже сформировалась разветвленная система связей в оборонно-промышленном комплексе.
Американский бизнес все больше тратит на закупки и разработки генеративных ИИ-технологий, но, по словам Накасоуни, тем же занимаются и стратегические противники США, которые «быстро разрабатывают и реализуют собственные ИИ-решения, так что мы ожидаем, что они вскоре начнут исследовать и пытаться эксплуатировать уязвимости в ИИ-системах США и союзников».
Безопасность ИИ, с точки зрения генерала, заключается в том, чтобы защищать системы искусственного интеллекта от того, чтобы они «узнавали, делали и раскрывали то, что не следует», а также блокировать кибератаки на них и добиваться, чтобы «враждебные стороны за пределами США не имели возможности похитить передовые американские наработки в сфере ИИ».
По словам Накасоуни, сегодня США удерживают лидирующие позиции, но рассматривать их как нечто само собой разумеющееся, категорически не стоит.
«Учитывая, что из себя представляют сегодняшние ИИ-модели, трудно вообразить себе, чтобы революционные технологии какой-либо одной экономики оставались недостижимыми для другой в течение значимого времени. Хороший пример - это те самые генеративные модели, которые с разницей в несколько месяцев появлялись у всех крупных ИТ-компаний», - отмечает Алексей Водясов, технический директор компании SEQ.
«Существует, конечно, чисто теоретическая вероятность, что кто-то (и не обязательно США) вдруг создадут нечто, что изменит все правила игры, но пока такая вероятность невелика и относится скорее к области недоброй фантастики», - подытожил он.
Кто будет руководить новым хабом и насколько масштабным он станет в итоге (то есть, насколько дорогим для налогоплательщиков), генерал не уточнил.
Поделиться