Ошибка в документе
Полиция Великобритании в январе 2026 г. обвинила Microsoft Copilot в допущении серьезной ошибки при составлении отчета из разведывательных данных, пишет The Verge. Это привело к запрету в 2025 г. на допуск израильских фанатов в матче Лиги Европы Союза европейских футбольных ассоциаций (УЕФА).
В ноябре 2025 г. полиция Западного Мидленда рекомендовала запретить фанатам израильского футбольного клуба «Маккаби Тель-Авив» посещение матча Лиги Европы против «Астон Виллы» на стадионе «Вилла Парк» в Бирмингеме. Решение было принято Консультативной группой по безопасности Бирмингема, в которую входят представители муниципалитета, полиции и других ведомств, на основании рекомендации полиции о высоких рисках безопасности.
В разведывательном отчете, представленном полицией, содержалась ссылка на предыдущий матч между «Маккаби Тель-Авив» и «Вест Хэмом», который якобы сопровождался инцидентами с участием болельщиков. Проблема заключалась в том, что такого матча никогда не существовало в реальности. Эта информация была полностью выдумана Copilot в процессе, известном как галлюцинация искусственного интеллекта (ИИ), о чем писал CNews.
Галлюцинация ИИ — это ситуация, когда ИТ-инструмент с ИИ выдает неточный, вводящий в заблуждение или несогласованный вывод из-за того, что его алгоритмы находят шаблоны в данных, которые не существуют, или неправильно интерпретируют эти шаблоны.
Руководство полиции Западного Мидленда первоначально утверждало, что неверные данные были получены в результате поиска в Google. Главный констебль Крейг Гилфорд (Craig Gilford) и его заместитель Майк О'Хара (Mike O'Hara) дважды давали показания перед парламентским Комитетом по внутренним делам Великобритании, настаивая на этой версии событий.
В январе 2026 г. скандал вокруг использования ИИ-технологий в правоохранительных органах Великобритании принял новый оборот. В ходе подготовки материалов для расследования, проводимого Инспекцией полиции и пожарно-спасательных служб, выяснилось, что ошибка на самом деле возникла в результате использования Microsoft Copilot.
Главный констебль полиции Западного Мидленда официально извинился перед парламентским Комитетом по внутренним делам за введение в заблуждение относительно источника ошибочной информации в разведывательном отчете. Выяснилось, что при подготовке документа местными сотрудниками использовалась ИИ-система Microsoft Copilot, которая попросту сгенерировала информацию о несуществующем футбольном матче.
Политические последствия
Решение о запрете въезда израильских болельщиков на территорию Великобритании вызвало значительный общественно-политический резонанс в стране в 2025 г. Премьер-министр Великобритании Кир Стармер (Keir Starmer) публично выразил свое несогласие с принятым решением и подверг его критике.
Инцидент произошел в условиях крайне напряженной международной обстановки, что повлекло за собой обвинения в адрес полиции в наличии политической мотивации при принятии данного ограничения. В ответ на эти обвинения глава полиции категорически заявил, что решение носило исключительно оперативный и неполитический характер.
На фоне разгоревшегося скандала министр внутренних дел Великобритании Шабана Махмуд (Shabana Mahmud) приняла решение о проведении официального независимого расследования обстоятельств инцидента. Проверку было поручено провести Инспекции полиции и пожарно-спасательных служб Ее Величества.
Данное разбирательство и последующее парламентское обсуждение подчеркивают высокую степень общественного и политического внимания к вопросу обеспечения безопасности массовых спортивных мероприятий в условиях сложной геополитической ситуации.
Обман ИИ
Эксперт по кибербезопасности из компании Lasso Security Бар Ланьядо (Bar Lanyado) из ИБ-компании Lasso Security создал несуществующую библиотеку (пакет) для Python под названием huggingface-cli.
Библиотеки представляют собой набор готовых функций, классов и объектов для решения задач разработчиков. Бар Ланьядо заметил, что модели генеративного искусственного интеллекта (ИИ) неоднократно «галлюцинировали» (термин исследователя) это имя библиотеки при запросах пользователей, то есть советовали их. Чтобы проверить, как это отразится на реальном мире, экспериментатор разместил фальшивый пакет в индексе пакетов Python (PyPI).
В результате, huggingface-cli получил более 15 тыс. подлинных загрузок за те три месяца, что он был доступен. Кроме того, исследователь провел поиск на GitHub, чтобы определить, использовался ли этот пакет в репозиториях других компаний. Результаты показали, что несколько крупных компаний либо используют, либо рекомендуют этот пакет в своих репозиториях. Например, инструкции по установке этого пакета можно найти в текстовом файле репозитория, посвященного исследованиям, проводимым компанией Alibaba.
Компания Alibaba включила несуществующий пакет в свою документацию. В инструкции к GraphTranslator от Alibaba ошибочно указано pip install huggingface-cli как метод установки легитимного ИТ-инструмента от Hugging Face. К счастью, творение Бара Ланьядо в 2024 г. оказалось безвредным, но потенциальные последствия его использования не радуют специалистов по информационной безопасности (ИБ). С его слов, хакеры могут использовать придуманное ИИ название для вредоносного пакета, загруженного в какой-нибудь репозиторий, в надежде, что другие смогут загрузить вредоносное программное обеспечение (ПО).
Поделиться
