Мобильные устройства используют технологию распознавания лиц, чтобы помочь пользователям быстро и безопасно разблокировать свои телефоны, совершить финансовую транзакцию или получить доступ к медицинским записям. Но технологии распознавания лиц, которые используют определенный метод обнаружения пользователей, очень уязвимы для атак на основе дипфейков, которые могут привести к серьезным проблемам безопасности для пользователей и приложений, согласно новому исследованию, проведенному Пенсильванским государственным колледжем информационных наук и технологий.
Исследователи обнаружили, что большинство интерфейсов прикладного программирования, которые используют проверку живости лица — функцию технологии распознавания лиц , использующую компьютерное зрение для подтверждения присутствия живого пользователя, — не всегда обнаруживают измененные в цифровом виде фотографии или видео людей, сделанные так, чтобы они выглядели как живые люди. живая версия кого-то еще, также известная как дипфейки. Приложения, которые используют эти меры обнаружения, также значительно менее эффективны при выявлении дипфейков, чем заявляет поставщик приложения.
«В последние годы мы наблюдаем значительное развитие технологий аутентификации и верификации лиц, которые были развернуты во многих приложениях, критически важных для безопасности», — сказал Тинг Ван, доцент кафедры информационных наук и технологий и один из главных исследователей проекта. «Между тем, мы также наблюдаем существенный прогресс в технологиях дипфейков, что позволяет довольно легко синтезировать живые изображения лица и видео с небольшими затратами. Таким образом, мы задаемся интересным вопросом: могут ли злоумышленники злоупотреблять дипфейками, чтобы обмануть лицо? системы проверки?»
Исследование, которое было представлено на этой неделе на симпозиуме по безопасности USENIX, является первым системным исследованием безопасности проверки живости лица в реальных условиях.
Ван и его сотрудники разработали новую платформу для атак на основе дипфейков под названием LiveBugger, которая позволяет настраивать автоматизированную оценку безопасности проверки живости лица. Они оценили шесть ведущих коммерческих программных интерфейсов приложений для проверки живости лица. По словам исследователей, любые уязвимости в этих продуктах могут быть унаследованы другими приложениями, которые их используют, что потенциально угрожает миллионам пользователей.
Используя поддельные изображения и видео, полученные из двух отдельных наборов данных, LiveBugger попытался обмануть методы проверки живости лиц приложений, которые направлены на проверку личности пользователя путем анализа статических или видеоизображений их лица, прослушивания их голоса или измерения их реакции. к выполнению действия по команде.
Исследователи обнаружили, что все четыре наиболее распространенных метода проверки можно легко обойти. В дополнение к подчеркиванию того, как их структура обходит эти методы, они предлагают предложения по повышению безопасности технологии, включая устранение методов проверки, которые анализируют только статическое изображение лица пользователя, и сопоставление движений губ с голосом пользователя в методах, которые анализируют как звук, так и звук. видео от пользователя.
«Хотя проверка живости лица может защитить от многих атак, развитие технологий дипфейков создает для нее новую угрозу, о которой пока мало что известно», — сказал Чанцзян Ли, докторант информационных наук и технологий и соавтор исследования. бумага. «Наши выводы помогают поставщикам устранять уязвимости своих систем».
Исследователи сообщили о своих выводах поставщикам, чьи приложения использовались в исследовании, причем один из них объявил о своих планах провести проект по обнаружению дипфейков для устранения возникающей угрозы.
«Проверка живости лица применялась во многих критических сценариях, таких как онлайн-платежи, онлайн-банкинг и государственные услуги », — сказал Ван. «Кроме того, все большее число облачных платформ начали обеспечивать проверку живости лица в качестве платформы как услуги, что значительно снижает затраты и снижает барьер для компаний, внедряющих технологию в свои продукты. Таким образом, безопасность лицевой проверка жизнеспособности очень важна».
Теги: ИИ, распознавание
