Насколько защищённым является распознавание лиц как биометрический инструмент для хранения секретов? Эта защита может быть достаточно хороша для того, чтобы защитить доступ к Вашему мобильному телефону, но все более враждебно настроенные исследователи ИИ находят способы обойти её.
Исследователи из Тель-Авивского университета в Израиле разработали набор мастер-лиц, который можно применять в качестве «мастер-ключа», способного сымитировать где-то от 40 до 60 процентов человеческих лиц.
Исследователи отмечают, что «наши результаты показывают, что аутентификация по лицу чрезвычайно уязвима даже при отсутствии информации о личности цели. Чтобы обеспечить большую безопасность решений для систем распознавания лиц, обычно применяются методы защиты от спуфинга (маскировка злоумышленника под авторизованного пользователя – Н.Х.). Наш метод можно комбинировать с другими существующими методами для обхода такой защиты» (см. https://gizmodo.com/master-face-researchers-say-theyve-found-a-wildly-succ-1847420710 ).
Исследователи сформировали поддельные изображения лиц, содержащие маркеры, которые соответствуют чертам лица, характерным для большого количества людей, создавая таким образом «универсальное лицо». Далее подобные изображения могут быть объединены с технологией продвинутых подделок-дипфейков для анимации лица, чтобы пройти ИИ-тесты, определяющие, представляет ли изображение живого человека или нет. Исследователи сформировали девять таких лиц; и смогли взломать защиту на основе распознавания лиц более чем в 40% случаев, используя только одно из этих изображений. Исследователи называют эти изображения «мастер-лица» (Master Faces).
Исследователи заявили, что «формирование большего количества лиц, вероятно, охватит ещё более широкий круг населения, что сделает атаку еще более успешной – это будет ещё более тревожное развитие событий».
Результаты этого исследования придают дополнительный вес аргументам против использования технологии распознавания лиц. Противники данной технологии уже давно выражают обеспокоенность расовым профилированием и массовой слежкой. Ложноположительные неточные совпадения также часто имеют место, особенно для изображений чернокожих людей ( https://www.businessinsider.com/facial-recognition-fails-96-of-the-time-detroit-police-chief-2020-6 ). ООН даже предложила на некоторое время запретить использование государствами распознавания лиц ( https://abcnews.go.com/Technology/citing-human-rights-risks-calls-ban-ai-tech/story?id=80034073 ).
Дик Вейсингер (Dick Weisinger)
Источник: блог компании Formtek
https://formtek.com/blog/artificial-intelligence-facial-recognition-vulnerable-to-attacks-and-misuse/
Комментариев нет:
Отправить комментарий