Sostav.ru
21.09.2020 в 14:15

Нейронная сеть Twitter отдает предпочтение белым перед представителями других рас

Расистские наклонности алгоритма обнаружили пользователи соцсети

Пользователи Twitter обнаружили проблему нейронной сети соцсети, которая обрезает изображения при предпросмотре. Алгоритм выбирал те участки фото, на которых были изображены белые люди и персонажи, отдавая им предпочтение перед чернокожими.

Об этом свидетельствует эксперимент, который один из пользователей Twitter провел с фотографиями экс-президента Барака Обамы и сенатора-республиканца Митча Макконнела. Он по-разному размещал фото представителей разных рас на белом фоне, а соцсеть создавала предпросмотр с исключительно людьми белой расы.

Причем при инверсии цветов Барак Обама все же попадал в предпросмотр.

Другие пользователи Twitter повторили эксперимент, и выяснили, что соцсеть также отдает предпочтение белым нарисованным персонажам.

Главный дизайнер Twitter Дэнтли Дэвис написал, что компания все еще исследует нейронную сеть и ее «предпочтения».

Лиз Келли из команды по связям с общественностью Twitter сообщила, что компания провела тестирование, связанное с расовыми и гендерными предпочтениями нейросети, но не нашла тому доказательств. «Очевидно, что необходимо провести дополнительный анализ», — написал она. Келли также добавила, что компания откроет исходный код алгоритма, чтобы другие также могли проверить его.

Обсудить с другими читателями:
Ваш браузер устарел
На сайте Sostav.ru используются технологии, которые не доступны в вашем браузере, в связи с чем страница может отображаться некорректно.
Чтобы страница отображалась корректно, обновите ваш браузер.
Ваш браузер использует блокировщик рекламы.
Он мешает корректной работе сайта. Добавьте сайт www.sostav.ru в белый список.