В российской ИТ-компании «Криптонит» (входит в «ИКС Холдинг») разработали способ выборочно удалять цифровые образы людей из систем распознавания лиц. Решение позволяет реализовать юридическое «право на забвение» и отозвать согласие на обработку биометрических данных без потери качества идентификации остальных людей. Об этом CNews сообщили представители «Криптонит».
Современные системы распознавания лиц устроены так, что продолжают хранить цифровой образ лица внутри обученной модели даже после формального удаления сведений о человеке из базы. Алгоритм продолжает идентифицировать пользователя по цифровому образу лица, который сохраняется внутри модели. Из-за этого требования законодательства о прекращении обработки биометрии часто оказываются технически трудновыполнимыми. Риски усиливаются в случае утечек. Скомпрометированные биометрические данные невозможно поменять как пароль. Украденные цифровые слепки могут использоваться для создания поддельных образов, пригодных для разблокировки устройств и доступа к сервисам с биометрической аутентификацией.
Разработанный в «Криптоните» метод решает эту проблему. Алгоритм не маскирует данные, а делает так, чтобы система перестала узнавать конкретного человека на уровне своей внутренней логики, то есть рассеивает нужные сведения. При этом способность распознавания остальных пользователей сохраняется на высоком уровне.
«Система распознает человека до тех пор, пока внутри нее существует цифровой образ лица. Мы разработали метод рассеивания этих данных в системе, чтобы алгоритм больше не мог их использовать», – сказал автор метода, специалист лаборатории искусственного интеллекта ИТ-компании «Криптонит» Михаил Захаров.
Испытания на общедоступных тестовых наборах данных, которые используют для оценки качества нейросетей, продемонстрировали существенное снижение эффективности выявления целевых данных (до 88%). В то же время показатели общей точности распознавания остались на прежнем уровне. Технология может применяться в системах видеонаблюдения с функцией распознавания лиц, контроля доступа (СКУД) и корпоративной безопасности, например — для удаления биометрических данных уволенных сотрудников. В перспективе решение может быть интегрировано в открытые промышленные фреймворки, что даст бизнесу и государству готовый инструмент для ответственной работы с биометрическими данными.
Поделиться
