Туитър започна разследване, след като потребителите откриха, че алгоритъмът му за изрязване на снимки понякога предпочита бели лица пред черни, информира “BBC”.
Потребителите са забелязали, че когато две снимки – едната на черно лице, а другата на бяло, са в една и съща публикация, социалната мрежа често показва само бялото лице на мобилния телефон. От Туитър заявиха, че е тествал за расова и полова пристрастност по време на разработването на алгоритъма. Но добавят:
“Ясно е, че ни предстоят още анализи.”
Главният технологичен директор на компанията Параг Агравал написа в Туитър:
“Направихме анализ на нашия модел, когато го вкарахме в употреба, но той се нуждае от непрекъснато подобрение. Обичаме този публичен, отворен и строг тест – и сме нетърпеливи да се поучим от това.”
Окосмяване по лицето
Последният спор започна, когато университетският мениджър Колин Медланд от Ванкувър използва приложението Zoom по време на видеоконференция и главата на негов колега внезапно изчезва.
Софтуерът очевидно погрешно идентифицира главата на черния човек като част от фона и я премахва.
Когато Медланд публикува мнение по темата в Туитър, той открива, че неговото лице, а не това на колегата му, постоянно е било избирано за визуализация в мобилни приложения, дори ако той е обърнал реда на изображенията. Откритието му предизвика редица други експерименти от потребители, които например предполагат:
- лицето на лидера на мнозинството от американския сенат Мич Макконъл беше предпочитано пред лицето на бившия президент на САЩ Барак Обама
- снимка на бял мъж в костюм е предпочитана пред тази, на която мъжът е черен
Главният дизайнер на Туитър, Дантли Дейвис смята, че редактирането на косата и очилата на Медланд изглежда е коригирала проблема – “поради контраста с кожата му”. В отговор на критиките той написа в социалната мрежа:
“Знам, че мислите, че е забавно да ме натопите, но аз съм също толкова раздразнен от това, колкото всички останали. Въпреки това, аз съм в състояние да го поправя и ще го направя. Вината ни е на 100%. Никой не бива да твърди друго.”
“Много въпросителни”
Зехан Уанг, ръководител на инженерен екип и съосновател на компанията за невронни мрежи Magic Pony, която е придобита от Туитър, заяви, че тестовете на алгоритъма през 2017 г., използващи двойки лица, принадлежащи към различни етноси, не са открили “значителни пристрастия между етноси (или полове)”, но Туитър сега ще прегледа това проучване. Той беше категоричен:
“Има много въпросителни, в които ще е необходимо време, за да се разровим”.
“Повече подробности ще бъдат споделени, след като вътрешните екипи имат възможност да се запознаят с детайлите”.
В края на миналата година американско правителствено проучване предположи, че алгоритмите за разпознаване на лица са много по-малко точни при идентифицирането на черни и азиатски лица, отколкото белите.
В Обединеното кралство полицейските служители миналата година изразиха опасения относно алгоритмите, които “засилват” предразсъдъците, и призоваха за по-ясни насоки за използването на технологията. А през юни тази година подобни опасения накараха IBM да обяви, че вече няма да предлага софтуер за разпознаване на лица за “масово наблюдение или расово профилиране”.
