Тема:

Социальные медиа 3 дня назад

Комментарии россиян проверят на агрессию в соцсети


Pixabay

Соцсеть "Одноклассники" привлекла искусственный интеллект для борьбы с угрозами и травлей в комментариях. Нейросеть проверяет на агрессию не только текст, но и прикрепленные к записи изображения.

Российская соцсеть "Одноклассники" внедрила новую технологию для борьбы с агрессивными высказываниями и разжиганием розни в комментариях. Система, построенная на базе нейросети, будет анализировать публичные сообщения на наличие угроз, оскорблений, травли по национальной или религиозной принадлежности и другого токсичного содержимого, после чего направлять их модераторам на проверку.

Проверяться будет не только текст, но и прикрепленные к записи изображения. ИИ проанализирует картинку, а при наличии шокирующего контента и актов насилия — заблокирует ее после проверки.

"Все призывы к разжиганию ненависти и ксенофобии по отношению к любой нации или другой группе людей, в том числе с использованием нецензурной лексики, а также угрозы другим пользователям будут блокироваться", — пояснили "Смотрим" в пресс-службе компании.

Записи будут проверяться в автоматическом режиме. В случае, если будет зафиксировано нарушение, авторам враждебных комментариев временно запретят участвовать в любых дискуссиях. Пользователю, который снова попытается проявить агрессию, покажут уведомление и ссылку на правила поведения в соцсети.

"Миролюбивая" нейросеть уже запущена в десктопной версии "Одноклассников". В приложениях на iOS и Android эта функция заработает в ближайшее время.