Алгоритмы Twitter обвинили в расизме из-за выбора белых людей на превью фото

Разработчик Тони Арчиери обнаружил неоднозначную деталь в алгоритмах Twitter, которые выбирают превью для фото, выделяя область «наибольшего интереса». Нейросеть выбирает белых людей, а не чернокожих, из-за чего пользователи обвинили Twitter в расизме. Арчиери сделал две длинных вертикальных картинки. На верх одной из них он поместил фото сенатора Митча Макконелла, вниз — экс-президента США Барака Обаму. На второй картинке разработчик поменял их местами. Однако в обоих случаях Twitter поместил на превью фото Макконелла. Trying a horrible experiment... Which will the Twitter algorithm pick: Mitch McConnell or Barack Obama? pic.twitter.com/bR1GRyCkia — Tony “Abolish (Pol)ICE” Arcieri 🦀 (@bascule) September 19, 2020 Арчиери предположил, что дело в красном галстуке сенатора, и поменял местами галстуки политиков. Ничего не изменилось. Обама оказался на превью только при инверсии цветов. "It's the red tie! Clearly the algorithm has a preference for red ties!" Well let's see... pic.twitter.com/l7qySd5sRW — Tony “Abolish (Pol)ICE” Arcieri 🦀 (@bascule) September 19, 2020 Let's try inverting the colors... (h/t @KnabeWolf) pic.twitter.com/5hW4owmej2 — Tony “Abolish (Pol)ICE” Arcieri 🦀 (@bascule) September 19, 2020 Пользователи Twitter начали проводить свои эксперименты и выяснили, что соцсеть почти всегда предпочитает белых людей темнокожим. При этом так происходит и с мемами, и с персонажами «Симпсонов». I wonder if Twitter does this to fictional characters too. Lenny Carl pic.twitter.com/fmJMWkkYEf — Jordan Simonovski (@_jsimonovski) September 20, 2020 Директор по цифровым технологиям Twitter Дэнтли Дэвис пообещал проверить работу нейросети. Он заявил, что алгоритм не только распознаёт лица, но и учитывает цвет фона. Дэвис приложил две фотографии темнокожего и белого человека в одинаковых костюмах, в итоге на превью появился первый. Here's another example of what I've experimented with. It's not a scientific test as it's an isolated example, but it points to some variables that we need to look into. Both men now have the same suits and I covered their hands. We're still investigating the NN. pic.twitter.com/06BhFgDkyA — Dantley 🔥✊🏾💙 (@dantley) September 20, 2020 В итоге представитель Twitter Лиз Келли заявила, что в системе нейросети нет предвзятости по признаку расы или пола. Однако компания продолжит изучение алгоритма и откроет его исходный код, пообещала Келли. Фото: Pixabay, Pixabay License У «Секрета фирмы» есть канал в Telegram. Подписывайтесь!