Дезинформация существовала всегда, но применение технологий на основе ИИ упрощает ее создание. Нейросети могут значительно быстрее генерировать и поддельный контент, который кажется пользователям убедительным.
Есть несколько способов распространения дезинформации с помощью ИИ.
1. Создание ложного контента
ИИ значительно упрощает генерирование дезинформации. С помощью нейросетей можно быстро создать фейковый текст и распространить его в социальных сетях и новостных лентах.
При этом ложное сообщение может казаться вполне достоверным, и пользователям будет сложно отличить дезинформацию.
2. Дипфейки
ИИ хорошо справляется с созданием убедительных изображений и видео, которые не имеют отношения к реальности.
По прогнозам аналитиков, в ближайшее время дипфейки будут все чаще использоваться для создания компрометирующего контента и влияния на мнение людей во время предвыборных кампаний и важных геополитических событий.
Отдельно стоит упомянуть имитирование голосов и дипфейк-музыку, которую трудно отличить от настоящей. Уже сейчас эта технология используется в социальной инженерии, например, для того, чтобы вымогать деньги при помощи фейковых звонков.
3. Манипулирование мнением людей с помощью чат-ботов
Когда вы запрашиваете информацию у чат-бота, то воспринимаете его как поисковую машину. Но на самом деле он способен манипулировать вашим мнением. Например, он может добавлять в сообщение эмоциональные триггеры, которые будут влиять на ваши взгляды.
Еще один способ манипуляции – так называемые эхо-камеры. В этом случае чат-бот подтверждает вашу точку зрения, даже если она не соответствует реальности. Вы считаете, что Земля – плоская, и бот выдает вам сведения на эту тему, не пытаясь опровергнуть ваше ложное убеждение.
Кроме того, чат-боты собирают данные о пользователях и создают персонализированные профили. Это позволяет ИИ настраивать контент так, чтобы вы получали только часть информации или заведомо ложные сведения.
Как защититься от ложного контента?
- При любых сомнениях в правдивости сообщения, проверьте его по другим источникам.
- Обратите внимание на качество фото и видео: дипфейк можно отличить по неестественной мимике и жестикуляции, низкому разрешению картинки.
- Фейковые аудио распознаются по машинным интонациям и отсутствию эмоций в речи собеседника.
Поделиться
