Sostav.ru
20.08.2020 в 15:10

«ВКонтакте» тестирует нейросеть для борьбы с враждебными высказываниями

Пользователи смогут пожаловаться на такие публикации через специальную кнопку

Соцсеть «ВКонтакте» начала работать с искусственным интеллектом, чтобы бороться с враждебными высказываниями пользователей. Об этом Sostav рассказали в компании.

С помощью технологии удастся ускорить обработку жалоб и помочь пользователям реже сталкиваться с проявлениями нетерпимости, ожидают в VK. Нейросеть позволит быстрее находить материалы с хейтспичем и публикации, вызывающие агрессию. Она учится выявлять проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, оскорбления на религиозной почве, из-за возраста, внешности или наличия заболеваний.

«ВКонтакте» также добавила категорию жалоб «Враждебные высказывания» — она появится, если пользователь нажмет кнопку «Пожаловаться» у публикации. Затем модераторы рассмотрят обращение. С помощью категории удастся точнее откалибровать существующие инструменты и собрать данные для разработки новых, пояснили в VK. Также сотрудники занимаются внутренним мониторингом, используя механизмы автоматического поиска, технологии цифровых отпечатков и нейронных сетей.

«Мы разделяем позицию наших пользователей и партнёров касательно языка вражды и прославления насилия. С проявлениями нетерпимости эффективнее бороться вместе — и мы призываем пользователей присоединяться к нам в этой борьбе», — заявил Иван Корнеев, руководитель команды модерации «ВКонтакте».

В 2020 году за первые шесть месяцев из «ВКонтакте» удалили 520 тыс. единиц контента по теме разжигания вражды и ненависти и заблокировали 1340 профилей и 2470 сообществ, которые распространяли враждебные высказывания, говорят представители соцсети.

Ранее во «ВКонтакте» рассказали, что новая платформа «Клипы» научится распознавать неприличные жесты. Платформа, заметив такие жесты, либо размоет их, либо закроет черным прямоугольником.

Обсудить с другими читателями:
Ваш браузер устарел
На сайте Sostav.ru используются технологии, которые не доступны в вашем браузере, в связи с чем страница может отображаться некорректно.
Чтобы страница отображалась корректно, обновите ваш браузер.
Ваш браузер использует блокировщик рекламы.
Он мешает корректной работе сайта. Добавьте сайт www.sostav.ru в белый список.