Sostav.ru
28.09.2020 в 11:55

«Одноклассники» ищут алгоритм против «токсичных» комментариев

Созданная модель будет помогать модераторам соцсети

1

Социальная сеть «Одноклассники» запустила чемпионат по разработке алгоритма для обнаружения оскорбительных и агрессивных комментариев. Об этом Sostav рассказали в компании.

Разработчикам нужно будет создать обученную модель для поиска комментариев с проявлением расизма, ксенофобии, сексизма, а также оскорблений на почве религиозной принадлежности, возраста, внешности или особенностей развития.

Созданная модель будет помогать модераторам соцсети быстро идентифицировать «токсичные» комментарии и отправлять их на модерацию. При этом алгоритм не будет использоваться для автоматической блокировки авторов комментариев, подчеркивают в компании.

При оценке публичного контента на нарушение правил «Одноклассники» используют как автоматическую, так и ручную модерацию. Оскорбительные комментарии ранее оценивал общий алгоритм. «В результате проведения чемпионата мы хотим получить специальную модель, которая будет оценивать именно «токсичные» высказывания в комментариях, причем по нескольким параметрам: таким, как оскорбления, угрозы и другие», — говорят в пресс-службе соцсети.

Ранее «Одноклассники» запустили рекламный кабинет для разработчиков игр. Он позволит настраивать таргетинг, важный именно для сферы геймдева, указывали в компании.

Обсудить с другими читателями:
Ваш браузер устарел
На сайте Sostav.ru используются технологии, которые не доступны в вашем браузере, в связи с чем страница может отображаться некорректно.
Чтобы страница отображалась корректно, обновите ваш браузер.
Ваш браузер использует блокировщик рекламы.
Он мешает корректной работе сайта. Добавьте сайт www.sostav.ru в белый список.