Алгоритм Twitter під час кадрування зображень віддає перевагу молодим, світлим і підтягнутим обличчям. Це виявив українець Богдан Кулинич, який зараз навчається в аспірантурі швейцарського університету EFPL. Він представив своє дослідження в межах конкурсу Twitter Algorithmic Bias Bug Bounty Challenge, де посів перше місце та отримав винагороду 3500 доларів.
Twitter попросив дослідників знайти вади у своїй системі кадрування фотографій, яку компанія вимкнула в березні. Користувачі ще з минулого року скаржаться на расистські упередження в системі, яка обрізає чорношкірих людей (а також мультиплікаційних персонажів та чорних собак).
Кулинич використав програму штучного інтелекту StyleGAN2, щоб згенерувати багато реалістичних облич, які мали схожий ракурс, але відрізнялись за кольором шкіри, віком та іншими характеристиками. Виявилось, що алгоритм Twitter фокусується на світліших, молодших і підтягнутіших обличчях та обрізає усі інші.
Інший учасник конкурсу помітив, що алгоритм Twitter віддає перевагу емоджі зі світлішим тоном шкіри. Дослідники, які посіли друге і третє місце, показали, що система упереджена щодо людей з сивим волоссям і щодо мемів арабською (якщо на зображенні є текст англійською і арабською, система імовірніше залишить англійську).
Ще немає коментарів