Ученые создали нейросеть для обмана системы распознавания лиц макияжем

Израильские и японские ученые создали новый метод обмана систем распознавания лиц, которые установлены в общественных местах. Для этого они прибегли к маскировке, незаметной для обычных людей, говорится в статье, опубликованной на arXiv.org.

Отмечается, что нейросетевая модель определяет области лица, которые сильнее всего оказывают влияние на результат распознавания. После этого в цифровом виде подбирается макияж для этих областей, который и помогает обмануть систему. 

Исследователи под руководством Юваля Эловици из университета имени Бен-Гуриона разработали метод, который позволяет обманывать алгоритмы распознавания лиц, не выделяя их из толпы для сторонних наблюдателей.

Алгоритм, работающий в несколько этапов, использует две модели распознавания лиц: собственную одного типа (суррогатная) и целевую (которую нужно обмануть) другого типа, с расчетом на то, что подготовка на одной модели сможет обмануть и другую. Сначала система принимает определенное количество фотографий атакующего человека и случайных людей этого же пола. При помощи пропускания изображений через модель и других манипуляций вычисляется тепловая карта, которая указывает на области лица, играющие ключевую роль при распознавании.

После на основе тепловой карты создается изображение с нанесенным макияжем, которое передается на распознавание на суррогатную модель. Шаги повторяются до успешного распознания моделью лица, а затем подбор макияжа признается успешным и его воссоздают на лице реального человека.

В испытаниях приняли участие 20 добровольцев, лица которых снимали две камеры под разным углом. 

Оказалось, что без макияжа целевая модель корректно распознавала лица на 47,57 процента кадров. С макияжем процент распознавания упал до 1,22, однако для стороннего наблюдателя этот макияж практически незаметен.

Случайный макияж на лице снизил точность лишь до 33,73 процента, что показывает эффективность нового метода.