Искусственный интеллект проникает во все сферы нашей жизни. Например, текст и иллюстрации для сайта могут быть созданы нейросетью. В чем опасность такого творчества и как отличить «человеческий» пост от написанного с помощью ИИ.
Нейросети, базирующиеся на алгоритме обработки естественного языка GPT, способны на любые словесные экзерсисы – от написания поста в блог до создания пьес для театра.
Причем эти технологии доступны практически каждому: достаточно воспользоваться ChatGPT, задать тему и ключевые параметры и на выходе получить готовый текст.
Но увы, результат не всегда получается оптимальным, и у текстов, созданных ИИ, есть ряд проблем.
- Дезинформация. Тексты, написанные с помощью технологий ИИ, могут выглядеть правдоподобно, но это не значит, что они отражают достоверные факты. Нейросети не обладают критическим мышлением человека, потому ИИ может собрать из интернета как верные, так и ложные сведения и «слепить» из них дезинформирующий текст. И такая особенность ИИ может быть использована хакерами.
- Низкое качество текста и плагиат. Хотя ИИ вполне эффективно компилирует информацию, ее изложение часто оставляет желать лучшего: в тексте могут быть нарушения логики, стиля или присутствовать сухое перечисление фактов. Кроме того, ИИ просто переформулирует данные, не переосмысляя их – и этот механический рерайт часто определяется программами для проверки уникальности как плагиат.
- Плохая индексация в поисковых системах. Поисковые системы уже начали борьбу с генерируемым контентом. Например, Google отслеживает тексты, похожие на созданные автоматически, считает их бесполезными и отправляет такой сайт на более низкие строки в поисковой выдаче.
- Негативное восприятие читателями. Да, всех забавляют эксперименты с генерацией контента при помощи ИИ, но большинство читателей предпочитают тексты, написанные людьми. И хотя по прогнозу Алана Тьюринга, однажды машине удасться обмануть человека, пока что пользователи подмечают несоответствия и не доверяют сгенерированным текстам.
Кстати, многие люди интуитивно распознают «искусственные» тексты. Но если вы хотите знать наверняка, что перед вами работа нейросети, то обратите внимание на следующие моменты.
1. Повторяющиеся слова и фразы
Зачастую ИИ «добивает» текст до заданного объема, механически повторяя нужные слова и даже целые предложения. Чаще всего первые абзацы даются ему неплохо, а вот затем он может добавлять повторяющийся контент.
Кроме того, ИИ хуже работает с синонимами, ему бывает сложно заменить слово.
Если перед вами текст, в котором использован только один термин из нескольких возможных, а ближе к финалу начались сплошные повторы – это работа искусственного интеллекта.
2. Отсутствие логики и грамматические ошибки
ИИ составляет текст механически, потому в нем могут отсутствовать логические переходы между абзацами, зато почти наверняка найдутся незавершенные или бессвязные предложения.
Также нейросеть может случайно повторить орфографическую ошибку из источника информации или неверно расставить знаки препинания.
С другой стороны, излишне правильная грамматика также может быть признаком «искусственного» текста.
3. Много фактов, мало комментариев
ИИ способен вложить в текст максимум фактов, но не умеет их комментировать. Если статья пестрит сведениями, но комментария к ним нет, вероятно, это была нейросеть.
То же относится и к выражению эмоций: ИИ может механически добавить в текст слова, обозначающие эмоции, но почти наверняка они будут не к месту.
Как выявить текст, написанный нейросетью?
Для выявления творений искусственного интеллекта, можно задействовать программы для проверки на плагиат. И, конечно, вам на помощь придет ПО для обнаружения такого контента: выходной детектор GPT-2, GLTR (Giant Language Model Test Room) и GPTZero.
Поделиться
