ОК запустили нейросеть для борьбы с агрессивными комментариями
ОК запустили нейросеть для борьбы с агрессивными комментариями. Фото: их архива компании
Нейросеть будет оценивать тексты и изображения в комментариях на наличие токсичного содержания, после чего выдавать оценку модераторам для проверки. Запуск технологии стал очередным шагом в развитии комфортной среды для общения в ОК.
Новый алгоритм позволит создать уважительную среду для общения внутри социальной сети. Нейросеть будет автоматически анализировать уровень агрессии в комментариях, далее оценка от алгоритма будет доступна модераторам соцсети. Технология уже работает на всех платформах. В десктопной версии соцсети пользователи, которые получили временный запрет, при попытке оставить комментарий увидят сообщение с объяснениями и ссылкой на подробности о работе нового алгоритма. В ближайшее время эта функция появится и в приложениях на iOS и Android, сообщают в компании.
Все призывы к разжиганию ненависти и ксенофобии по отношению к любой нации или другой группе людей, в том числе с использованием нецензурной лексики, а также угрозы другим пользователям будут блокироваться. При анализе изображений в комментариях алгоритм определит наличие шокирующего содержания и актов насилия, которые после проверки тоже будут удалены. Технология запущена в рамках глобального построения безопасности VK.
Пользователи, которые нарушают правила соцсети и выражают свое мнение враждебно по отношению к другим, получат временный запрет на комментирование любого контента в ОК. При попытке оставить комментарий соцсеть покажет уведомление и ссылку на правила поведения. Кроме того, авторы комментариев могут получить временный «отдых» от дискуссий, если на их высказывания поступает много жалоб и система определила их как токсичные и агрессивные.
Startpack подготовил список облачных решений для продвижения товаров, услуг, брендов и личностей в социальных сетях. Сервисы для автоматизации работы SMM-менеджеров: составление контент-планов, создание постов, выбор хештегов, публикация в заданное время. Системы аналитики создают отчёты об активности пользователей, реакции на отдельные посты и таргетированную рекламу в социальных сетях. Проверка блогеров на накрутки для размещения рекламных постов экономит маркетинговый бюджет.
Статьи по теме:
Комментариев пока не было