Социальная сеть «ВКонтакте» работает над нейросетью, которая будет самостоятельно распознавать и блокировать оскорбительные комментарии и различные проявления нетерпимости, сообщили в компании. Сейчас искусственный интеллект проходит стадию «обучения».

«Нейросеть учится определять самые разные категории оскорблений и угроз. Среди них — проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний», —рассказали в пресс-службе «ВКонтакте».

Нейросеть обучают на живых примерах с помощью новой опции. Администрация соцсети ввела кнопку «Враждебные высказывания», которую можно выбрать, если нажать «Пожаловаться» рядом с оскорбительным комментарием. Сообщение рассмотрят модераторы, и итоги этой работы попадут в базу данных для новой нейросети.

По данным компании, в первом полугодии 2020 года на платформе удалили 520 тыс. сообщений или материалов оскорбительного содержания.

Контекст:

Соцсети стали особенно активно бороться с различными проявлениями нетерпимости на своих площадках на фоне беспорядков в США из-за убийства полицейскими афроамериканца Джорджа Флойда. Например, Twitter недавно разрешил пользователям ограничивать количество людей, которые могут отвечать на их твиты. Однако не всегда усилия компаний оцениваются положительно. В начале июля 2020 года правозащитные организации инициировали бойкот Facebook, поскольку соцсеть, по их мнению, не принимает достаточных мер для удаления сообщений расистского характера и вводящей в заблуждение информации. 

Что это меняет:

В российской соцсети уверяют, что нейросеть оградит пользователей «ВКонтакте» от агрессии и нетерпимости. Правда, когда именно искусственный интеллект начнет работать в полную силу, не уточняется.

Источник: polit.ru