Дослідники створили набір згенерованих облич, які можуть ламати системи розпізнавання. Ці обличчя створені так, щоб в них можна було впізнати декілька людей одночасно. Тож усього дев'ять зображень ідентифікуються як 40% осіб з набору даних, що діє в трьох провідних технологіях розпізнавання облич.
Щоб обійти систему, достатньо використати ці обличчя, без жодної додаткової інформації про особу, яка ідентифікується.
Дослідники застосували свій метод на трьох системах розпізнавання: Dlib, FaceNet та SphereFace. Їх обрали тому, що вони враховують складні семантичні особливості, а не просто колір шкіри чи світлотінь.
Самі обличчя згенерували за допомогою StyleGAN. Після цього дослідники використали еволюційний алгоритм і нейронну мережу для оптимізації та прогнозування успіху. Зрештою нейромережа навчилась класифікувати кандидатів та обрала найкращі варіанти.
Автори дослідження хочуть і далі вивчати цей метод, щоб захистити системи розпізнавання від подібних атак. Передбачається, що створені дев'ять облич можна буде анімувати за допомогою deepfake: в такий спосіб можна буде обійти системи розпізнавання живих істот.
Набір даних, який використали дослідники, — це Labeled Faces in the Wild, або LFW від університету Массачусетсу. Зазначено, що у ньому білі чоловіки, старші за 60 років, відрізняються між собою менше, ніж люди з інших груп. Тож для цієї категорії можна застосувати лише одне з дев'яти облич. Окрім того, лише два згенеровані обличчя були жіночими, адже в самому наборі даних LFW є лише 22% жінок.
Нагадаємо, раніше ми розповідали, що не так із технологіями розпізнавання облич (і проблема не лише з упередженістю, а й з конфіденційністю та безпекою).
Ще немає коментарів