Новое правило и роботы на страже порядка
Привет, Пикабу!
Сегодня у нас одно важное объявление и одно не слишком. Начнём по нарастающей.
То самое правило.
На Пикабу много лет существуют правила и традиции, установленные и культивируемые пользователями. И нам кажется, что некоторые из них стоит официально и навсегда закрепить в Правилах)
1.10 То самое правило. При упоминании в комментариях к посту какого-либо анекдота, шутки, хохмы, копипасты и т.д., правилом хорошего тона будет привести обсуждаемый текст целиком. Пикабушник, который сделает это, заслуживает почет и уважение других пользователей.
Ну, а теперь поговорим о серьезных вещах.
Роботы на страже правопорядка.
Пикабу - очень большой сайт. Ежедневно наши пользователи оставляют до 100 000 комментариев к тысячам разных постов. Разумеется, при таком объеме не хватит никакой команды модераторов, чтобы отслеживать комментарии и посты, и своевременно ликвидировать негатив и токсичное общение, от которого страдают многие добросовестные пользователи.
К сожалению, этим пользуются некоторые пользователи, которые приходят на сайт устраивать срачи, провоцировать других пользователей либо просто самоутверждаться за счет других. Они набивают рейтинг очевидными комментариями к популярным постам, после чего идут в свежее и начинают провоцировать и грубить авторам и комментаторам, оставаясь внешне в рамках правил сайта. Как ни печально, но происходит такое повсеместно, и отделить таких токсичных пользователей от тех, кого они вовлекают в скандалы, бывает очень и очень проблематично. Надо ли и говорить о том, что в итоге неконфликтные пользователи и авторы в такой атмосфере просто перестают проявлять активность, а токсичные занимают их место.
Банить на основании нашего чувства прекрасного? Что может быть хуже! Но выход всё-таки был найден. В течение последних месяцев мы тестировали нашу новую нейросеть, которая проводит анализ активности пользователей за некоторый продолжительный период времени и определяет их уровень токсичности. То есть, пользователи, которые поругаются в 1-2 постах в силу разных причин, даже если полезут в драку и получат баны за оскорбления, в прицел нейросети не попадут. А вот если пользователь часто грубит, хамит, ведет себя агрессивно в продолжительный отрезок времени, наша нейросеть это увидит. Пользователь получит уведомление следующего вида:
ВНИМАНИЕ! На сайте уже работает одна сеть, которая выдает предупреждение при написании комментария. ЭТО НЕ ТА СЕТЬ, она носит исключительно информационный характер и не связана с анализом токсичности. Пожалуйста, учтите это.
Делается это потому, что даже нейросеть может ошибиться один раз. Однако если в течение 10 дней после этого токсичный пользователь не изменит своим привычкам и получит повторное предупреждение, либо получит 5 предупреждений в течение одного года, на аккаунт будет наложено новое разработанное нами ограничение - слоумод.
Слоумод - ограничение количества комментариев, которые пользователь может оставить в сутки. Сейчас установлены следующие условия: в первый раз ограничение составит 7 дней, и не более 5 комментариев в сутки. Каждое новое применение слоумода увеличит срок в 1,7 раза (как обычные баны), и уменьшит количество комментариев в 1,7 раза. Таким образом, пользователи, которые не могут себя контролировать, очень скоро будут максимально ограничены в возможности навредить другим.
Как я уже сказал, на протяжении последних месяцев мы наблюдали за пользователями и поведением нейросети, и не нашли случаев, когда она совершила бы очевидную ошибку. Возможно, в будущем мы можем поменять механику работы и некоторые критерии, чтобы сеть работала точнее. Практически все, кто уже получил уведомления за последнюю неделю - не обычные пользователи и даже не те, кто активно комментирует, они часто становятся объектами жалоб, провокаторами различных многочисленных конфликтов. Но на всякий случай первое время мы будем следить за работой сети и проверять выдачу ею слоумодов.
Но самое главное - помните, что такой мерой мы не ставим перед собой цель “найти и наказать”. Мы стремимся к тому, чтобы сделать атмосферу на сайте приятнее и комфортнее для всех без исключения. Поэтому даже самым токсичным пользователям мы даем прежде всего шанс поработать над своим поведением вместо уверенной атаки банхаммером.
Ну а на сегодня всё. До новых встреч!
С уважением, Команда Пикабу.
Новости Пикабу
160 постов4.1K подписчика