Идея так называемого «мастер-лица», набора фальшивых изображений, сгенерированных алгоритмом машинного обучения для взлома биометрических систем лица путем выдачи себя за человека, попала в заголовки за рубежом на прошлой неделе. Но более пристальный взгляд на исследование выявляет вопиющие недостатки, и вряд ли это сработает в реальном мире.
«Мастер-лицо — это изображение человеческого лица, прошедшее аутентификацию по лицу для значительной части населения, — поясняется в статье, опубликованной на arXiv ранее в этом месяце, — Эти лица можно использовать для выдачи себя за любого пользователя, и с высокой вероятностью успеха, не имея доступа к какой-либо пользовательской информации».
Далее трое ученых Тель-Авивского университета рассказали, что они построили модель, которая сгенерировала девять основных лиц, способных представлять 40% населения, в обход «трех ведущих систем глубокого распознавания лиц». На первый взгляд это может показаться впечатляющим, и эти заявления представляют явную угрозу безопасности в приложениях, требующих распознавания лиц.
Сначала команда использовала систему StyleGAN от Nvidia для создания реалистичных изображений поддельных лиц. Каждый поддельный результат сравнивается с реальной фотографией 5749 разных людей, представленных в наборе данных Labeled Faces in the Wild (LFW). Отдельный алгоритм классификатора определяет, насколько похожие поддельные лица, созданные ИИ, сравниваются с реальными лицами в наборе данных.
Изображения с высокими показателями подобия классификатора сохраняются, а другие изображения отбрасываются. Эти оценки используются для обучения эволюционного алгоритма использованию StyleGAN для создания все большего количества фальшивых лиц, которые выглядят как люди в наборе данных.
Со временем исследователи смогли найти набор лиц хостов, представляющих как можно больше изображений в наборе данных. Короче говоря, они могут использовать только 9 изображений, чтобы представить 40% из 5749 разных людей в наборе данных Labeled Faces in the Wild.
Затем они использовали эти мастер-лица, чтобы обмануть три модели распознавания лиц с разными лицами: Dlib, FaceNet и SphereFace. Эти системы заняли самые высокие места в соревновании по оценке лучших алгоритмов сопоставления лиц, протестированных на наборе данных LFW.
Тем не менее, беглый взгляд на основные лица, набравшие наибольшее количество баллов, которые смогли обойти каждую из трех моделей, выявил явное ограничение исследования. Почти все они фальшивые фотографии белых пожилых мужчин с седыми волосами, в очках и с бородами. Если эти же типы изображений являются репрезентативными для большого набора данных LFW, то набор данных должен иметь некоторые недостатки.
Заявление об отказе от ответственности, размещенное на веб-сайте, на котором размещен набор данных, подтверждает это: "Многие группы недостаточно представлены в LFW. Например, мало детей, нет младенцев, мало людей старше 80 лет и относительно высокая доля женщин. Малые. Кроме того, многие расы очень недопредставлены. или вовсе нет».
Оценки девяти мастер-граней отражают ограничения набора данных LFW. Женские, темнокожие и молодые лица оценивались ниже и с меньшей вероятностью обошли три протестированные модели.
"Хотя теоретически LFW можно было бы использовать для оценки эффективности определенных подгрупп, база данных была разработана таким образом, что не было достаточно данных, чтобы сделать убедительные статистические выводы о подгруппах. Проще говоря, LFW не был достаточно большим, чтобы оправдать определенные конкретные программное обеспечение было тщательно протестировано», — говорится в другом заявлении об отказе от ответственности, указанном на веб-сайте LFW.
Хотя идея возможности симулировать большинство лиц, чтобы разблокировать главное лицо системы распознавания лиц, интересна, исследование здесь — всего лишь еще один пример обучения и тестирования моделей машинного обучения с ошибочными данными. Как говорится, мусор на входе, мусор на выходе.
Набору данных LFW не хватает разнообразия, поэтому сгенерированные компьютером лица хостов, скорее всего, покроют большую часть набора данных. Маловероятно, что эти изображения будут хорошо работать в реальном мире.
«LFW действительно страдает от ограничений, описанных на его официальном веб-сайте, но, несмотря на эти ограничения, LFW остается широко используемым набором данных в академической литературе для оценки методов распознавания лиц», — сказал соавтор и исследователь статьи Томер Фридлендер из Тель-Авивского университета. Школа электротехники, сообщил The Register.
«В нашей статье представлены возможные уязвимости в системах распознавания лиц, которые могут быть использованы злоумышленниками. Поэтому как разработчики, так и пользователи методов распознавания лиц должны это учитывать. мы не можем ссылаться на реальные системы».
По его словам, можно подгонять модели к лучшим наборам данных, которые являются более разнообразными, чтобы попытаться обмануть системы реального мира. «Мы заинтересованы в дальнейшем изучении возможности использования эталонных лиц, сгенерированных нашим методом, для защиты существующих систем распознавания лиц от таких атак. Мы оставляем это для будущих исследований».
Не дайте себя одурачить возмутительными заголовками, утверждающими, что эти главные лица могут взломать «более 40 процентов систем аутентификации Face ID» или что они «чрезвычайно успешны». Существует мало доказательств в поддержку этих утверждений.
О технологии распознавания лиц
Цель распознавания лиц состоит в том, чтобы извлекать персонализированные черты людей из изображений лиц и использовать их для идентификации личности людей.
- Технология распознавания лиц на основе признаков
Распознавание лиц с помощью функций цвета, контура, текстуры, структуры или гистограммы.
- Технология распознавания лиц на основе сопоставления шаблонов
Шаблон лица извлекается из базы данных, а затем применяется определенная стратегия сопоставления шаблонов для сопоставления захваченного изображения лица с изображением, извлеченным из библиотеки шаблонов.Информация о размере и местоположении лица определяется уровнем корреляции и размером согласованный шаблон.
- Технология распознавания лиц на основе статистики
Собирая большое количество изображений «лица» и «не лица» для формирования библиотеки образцов положительных и отрицательных лиц, а также используя статистические методы для усиления обучения системы, обнаружение и классификация изображений лиц и не лиц могут быть реализованным.
Поскольку распределение изображений лиц в многомерном пространстве представляет собой неравномерное распределение многообразия, выборки, которые могут быть получены, представляют собой лишь выборку очень небольшой части пространства изображений лиц.Как решить задачу статистического обучения при малых выборках для дальнейшего исследования. Стоит отметить, что ни один алгоритм не может быть точным на 100% в распознавании, из-за влияния шума, ошибок, алгоритмов, обучающих наборов, фона изображения, движений персонажей и т. д. на видео быть ошибочно идентифицированным. Обнаружение неточное.
приложения для распознавания лиц
В настоящее время, с точки зрения применения технологии распознавания лиц в моей стране, она в основном сосредоточена в трех областях: посещаемость и контроль доступа, безопасность и финансы. В частности, такие как: мониторинг безопасности, детекция лиц на видео, распознавание лиц, статистика трафика и т. д., широко используется в интеллектуальном управлении доступом жилых помещений и зданий, обнаружении подозрительных лиц, блуждающих по периметру, статистике трафика в живописных местах. , и т.д.
Основываясь на многолетнем техническом опыте в области видео, TSINGSEE интегрирует технологию обнаружения и интеллектуального распознавания ИИ в различные сценарии приложений.Типичным примером является облачный сервис слияния видео EasyCVR, в котором есть распознавание лиц ИИ, распознавание номерных знаков, голосовая связь, управление PTZ, звуковая и световая сигнализация, возможности анализа видео наблюдения и агрегации данных.