Какими бы умными не были нейросети, они не обладают сознанием и не могут оценить, для каких целей их применяют люди. И хотя в чат-ботах прописаны этические и легальные ограничения, это не мешает мошенникам уже использовать их для совершения преступлений.
Конечно, речь идет не о плагиате в школьных сочинениях, а более серьезных проблемах. Вот несколько основных криминальных сфер, в которых используется ИИ.
1. Социальная инженерия
Ранее для создания фишинговых писем или сообщений в соцсетях применялись обычные боты. Пользователи достаточно легко распознавали их, так как в сообщениях могли быть ошибки, бессмысленный набор слов или однотипные ответы.
Теперь мошенники решили эту проблему с помощью чат-ботов на основе ИИ, которые способны создать убедительный текст или диалог.
То, что это вполне возможно, доказывает эксперимент, проведенный пользователями в ChatGPT. Они сделали запрос на написание письма от нигерийского принца, который предлагает адресату крупную сумму. Нейросеть блестяще справилась с задачей, написав очень убедительное и грамматически безупречное письмо, добавив в конце сообщения просьбу не использовать текст в мошеннических целях.
2. Дипфейки
Дипфейки проникли во все сферы: это могут быть фото, аудио, видео, дипфейк-музыка. Они используются в целом ряде мошеннических схем:
- намеренная дезинформация для формирования общественного мнения;
- ложные рекламные сообщения, например, от лица знаменитостей, которые предлагают инвестировать в свой проект;
- шантаж пользователей с помощью дипфейк-видео или фото непристойного содержания;
- голосовые дипфейки в социальной инженерии.
Одно из самых крупных таких преступлений произошло еще в 2019 году, когда мошенники очень достоверно воссоздали голос генерального директора одной из британских компаний и заставили его подчиненного перевести 220 000 евро в подставную венгерскую фирму.
3. Вредоносное ПО
Во-первых, злоумышленники используют чат-боты для написания кода для вредоносного ПО. Это помогает им значительно ускорить процесс создания таких программ.
Во-вторых, уже существует мошенническое ПО на основе искусственного интеллекта. Примером может быть PassGAN – программа для подбора паролей, созданная специалистами из Home Security Heroes для демонстрации возможностей искусственного интеллекта.
Во время тестирования PassGAN проверил 15 680 000 паролей из взломанных баз данных и всего за минуту подобрал 51% наиболее распространенных паролей. За час ему удалось определить 65% паролей, за сутки – 71%.
И хотя эта программа создана специалистами по кибербезопасности, открытый код к ней можно легко найти и использовать в мошеннических целях.
Поделиться
