2754

Новое правило и роботы на страже порядка

Привет, Пикабу!

Сегодня у нас одно важное объявление и одно не слишком. Начнём по нарастающей.


То самое правило.


На Пикабу много лет существуют правила и традиции, установленные и культивируемые пользователями. И нам кажется, что некоторые из них стоит официально и навсегда закрепить в Правилах)


1.10 То самое правило. При упоминании в комментариях к посту какого-либо анекдота, шутки, хохмы, копипасты и т.д., правилом хорошего тона будет привести обсуждаемый текст целиком. Пикабушник, который сделает это, заслуживает почет и уважение других пользователей.

Ну, а теперь поговорим о серьезных вещах.


Роботы на страже правопорядка.

Новое правило и роботы на страже порядка Новости Пикабу, Нейронные сети, Правила, Правила Пикабу, Длиннопост

Пикабу - очень большой сайт. Ежедневно наши пользователи оставляют до 100 000 комментариев к тысячам разных постов. Разумеется, при таком объеме не хватит никакой команды модераторов, чтобы отслеживать комментарии и посты, и своевременно ликвидировать негатив и токсичное общение, от которого страдают многие добросовестные пользователи.


К сожалению, этим пользуются некоторые пользователи, которые приходят на сайт устраивать срачи, провоцировать других пользователей либо просто самоутверждаться за счет других. Они набивают рейтинг очевидными комментариями к популярным постам, после чего идут в свежее и начинают провоцировать и грубить авторам и комментаторам, оставаясь внешне в рамках правил сайта. Как ни печально, но происходит такое повсеместно, и отделить таких токсичных пользователей от тех, кого они вовлекают в скандалы, бывает очень и очень проблематично. Надо ли и говорить о том, что в итоге неконфликтные пользователи и авторы в такой атмосфере просто перестают проявлять активность, а токсичные занимают их место.


Банить на основании нашего чувства прекрасного? Что может быть хуже! Но выход всё-таки был найден. В течение последних месяцев мы тестировали нашу новую нейросеть, которая проводит анализ активности пользователей за некоторый продолжительный период времени и определяет их уровень токсичности. То есть, пользователи, которые поругаются в 1-2 постах в силу разных причин, даже если полезут в драку и получат баны за оскорбления, в прицел нейросети не попадут. А вот если пользователь часто грубит, хамит, ведет себя агрессивно в продолжительный отрезок времени, наша нейросеть это увидит. Пользователь получит уведомление следующего вида:

Новое правило и роботы на страже порядка Новости Пикабу, Нейронные сети, Правила, Правила Пикабу, Длиннопост

ВНИМАНИЕ! На сайте уже работает одна сеть, которая выдает предупреждение при написании комментария. ЭТО НЕ ТА СЕТЬ, она носит исключительно информационный характер и не связана с анализом токсичности. Пожалуйста, учтите это.


Делается это потому, что даже нейросеть может ошибиться один раз. Однако если в течение 10 дней после этого токсичный пользователь не изменит своим привычкам и получит повторное предупреждение, либо получит 5 предупреждений в течение одного года, на аккаунт будет наложено новое разработанное нами ограничение - слоумод.


Слоумод - ограничение количества комментариев, которые пользователь может оставить в сутки. Сейчас установлены следующие условия: в первый раз ограничение составит 7 дней, и не более 5 комментариев в сутки. Каждое новое применение слоумода увеличит срок в 1,7 раза (как обычные баны), и уменьшит количество комментариев в 1,7 раза. Таким образом, пользователи, которые не могут себя контролировать, очень скоро будут максимально ограничены в возможности навредить другим.


Как я уже сказал, на протяжении последних месяцев мы наблюдали за пользователями и поведением нейросети, и не нашли случаев, когда она совершила бы очевидную ошибку. Возможно, в будущем мы можем поменять механику работы и некоторые критерии, чтобы сеть работала точнее. Практически все, кто уже получил уведомления за последнюю неделю - не обычные пользователи и даже не те, кто активно комментирует, они часто становятся объектами жалоб, провокаторами различных многочисленных конфликтов. Но на всякий случай первое время мы будем следить за работой сети и проверять выдачу ею слоумодов.


Но самое главное - помните, что такой мерой мы не ставим перед собой цель “найти и наказать”. Мы стремимся к тому, чтобы сделать атмосферу на сайте приятнее и комфортнее для всех без исключения. Поэтому даже самым токсичным пользователям мы даем прежде всего шанс поработать над своим поведением вместо уверенной атаки банхаммером.


Ну а на сегодня всё. До новых встреч!

С уважением, Команда Пикабу.

Найдены дубликаты

+237
Официальный ответ

ВНИМАНИЕ! На сайте уже работает одна сеть, которая выдает предупреждение при написании комментария. ЭТО НЕ ТА СЕТЬ, она носит исключительно информационный характер и не связана с анализом токсичности. Пожалуйста, учтите это.

раскрыть ветку 299
+239
раскрыть ветку 35
+5

если  она работает по тому-же алгоритму (а другого взять неоткуда) то 99% пользователей получат бан ... ибо при написании коммента эта ваша нейросеть "вырывает из контекста" .... и в невинной фразе "у меня в огороде растет хрен" она видит оскорбление :)

раскрыть ветку 3
+7

почему он черного не застрелил?

раскрыть ветку 3
+12

Откуда?

раскрыть ветку 26
+178
Лучше ленту почините, заеб@ло (привет новая нейросеть!) начинать просмотр ленты с одного и того же места целый день и встречать просмотренные час назад посты! ПИЧОТ!!!
раскрыть ветку 77
+39

А там вторая болезнь, когда непросмотренные посты скрываются. Мне кажется, проще забить, чем ждать, что починят.

раскрыть ветку 6
+31

То есть, бля ебана рот, теперь даже материться нельзя? Хуй ли? Пиздец, товарищи!!!


Как новая нейросетка определит, к примеру, слово Блядь в случае употребления как междометия, и в случае прямого обращения токсичного пользователя к обычному?

раскрыть ветку 34
+5
А потом идёшь в посты интересного пользователя и видишь у него кучу интересных постов с приличным реитингом которые прошли мимо тебя! Какого хрена???
+31

Нет. Борьба хуй пойми с чем ради хуй пойми чего важна!

раскрыть ветку 3
0

Спасибо комрад! Точняк. Вышел с Пикабу, х..як, зангво читай/листай

0

ты чего такой токсичный?

0

А тебе все лишь бы пикабу свое интересное смотреть! Иди работай, тот, кто не работает!

0

@moderator, а сеть распознает вот такие ругани?

заеб@ло

раскрыть ветку 24
0

Да ты совсем что ли? Он же ещё не эволюционировали до прямоходящих.

0

Дело говоришь

+314

Когда прочитал про кары нейросети и увидел красный колокольчик пришедшего сообщения:

Иллюстрация к комментарию
раскрыть ветку 63
+71
Твой комментарий какой-то оскорбительный)
раскрыть ветку 45
+20

терпеть не могу, когда на разбитом ящике играют (С)

Иллюстрация к комментарию
раскрыть ветку 2
+13
Иллюстрация к комментарию
-12

Ага, скоро под белы рученьки уносить будут. Пикабу по-настоящему российский сайт —всегда стремился к цензуре и ограничениям.

раскрыть ветку 4
-14

Одень противогаз - скажи нет токсичности! Это интернет, здесь могут и нахуй послать твоего спецназовца так, что он будет вирищать как сучка.

раскрыть ветку 7
ещё комментарии
+597

Банить на основании нашего чувства прекрасного? Что может быть хуже?

Банить на основании чувства прекрасного у нейросети.

раскрыть ветку 120
+325

Ага, бан всем кожаным мешкам.

раскрыть ветку 40
+84
Иллюстрация к комментарию
раскрыть ветку 38