-126

Так-так-так, что тут у нас? - Актуальные изменения!

Привет, Пикабу!

Как вам, думаю, уже известно, вчера вступили в силу новые правила в отношении NSFW контента. Хотелось бы вкратце рассказать, что изменилось и почему.


NSFW-контент. Мы полностью переработали подход к эротике. Тег ”клубничка”, который радовал нас столько лет, отправлен на покой. Вместо него пришел NSFW - Not safe/suitable for work, что означает небезопасно/неподходяще для работы. Под него попадают материалы, небезопасные для просмотра в общественных местах, в присутствии коллег или посторонних людей. Это  понятие его несколько шире и включает в себя разнообразный контент, который неприлично просматривать в общественных местах.


Сейчас мы решили перенести внимание на сексуализацию - то есть, концентрацию внимания пользователя на возбуждении и удовлетворении сексуальных потребностей. Это отличается от нашего предыдущего подхода, где больше внимания уделялось наличию обнажённых тел, эротических элементов как таковых.


Мы понимаем, что при определении, является ли контент достаточно откровенным для того, чтобы вешать на него плашку NSFW или признавать запрещенным к постингу вообще, руководствоваться одним лишь мнением модератора - слишком субъективно.


Вместо этого мы попробуем определять, является ли изображение эротическим, с помощью нейросети.


Мы понимаем, что иногда в комментариях к посту может быть размещен контент, который будет очень неожиданным и даже неприятным при просмотре Пикабу, например, с семьей, но одновременно с этим не будет нарушать правил. Поэтому, одновременно с отработкой системы автоматического распознавания контента мы начинаем разработку функционала для сокрытия NSFW-контента в комментариях. Да, эта идея нами озвучивалась раньше, также были предложения пользователей. Сейчас, в контексте развития Пикабу, она наконец-то будет реализована.


[Отметим важный момент. Мы оставили NSFW-материалы в закрытых тематических (!) сообществах + в целом есть исключения, постинг которых не запрещён. Подробнее тут. ]


Что касается других правил сайта. Мы слишком увлеклись формализацией, в чём наша ошибка. Невозможно прописать каждый возможный случай, ситуацию; а пользователям тяжело ориентироваться в таком объёмном своде правил, где многое зачастую непонятно или может трактоваться иначе. Мы приступим к работе над тем, чтобы правила стали понятнее и доступнее; чтобы модераторы руководились также логикой, духом закона и максимально корректно использовали имеющиеся инструменты в рабочих целях, в том числе: для диалога с пользователями. Также добавим, что решения модераторов теперь будут лучше и тщательнее проверяться, для этого разрабатывается новый подход.


Многие конфликты случаются из-за непонимания; как мы работаем, что нами движет. Например, во время прошедшего бунта многие пользователи подумали, что мы платим авторам контента или делаем его сами. Что модераторам дозволены любые ошибки, а мы закрываем на это глаза или что делаем контекстную рекламу 18+, хотя сами выступаем против клубники. Мы  открыты для диалогов и предложений; мы начинаем проводить встречи IRL, больше говорить о своей работе и отвечать на Ваши вопросы.  И если они появились сейчас, пожалуйста, задайте их нам.

Так-так-так, что тут у нас? - Актуальные изменения! Модерация, Пикабу, Правила, Изменения, Вопрос, Длиннопост

Дубликаты не найдены

Новости Пикабу

83 поста2.9K подписчиков

Добавить пост
+50
Поэтому, одновременно с отработкой системы автоматического распознавания контента мы начинаем разработку функционала для сокрытия NSFW-контента в комментариях. Да, эта идея нами озвучивалась раньше, также были предложения пользователей.

Стоп-стоп-стоп, вы же сами говорили(https://pikabu.ru/story/otvet_na_28_prizyivov_uspeli_pro_klu...), что она УЖЕ ПОЧТИ ГОТОВА, ВОТ ПРЯМ ХОТЬ ЩАС, а тут только начинаете? Причем, прошу обратить внимание: вы сами-же сказали, что такой функционал не поможет избежать блокировки в гуглплее!

раскрыть ветку 44
+20

Ну чо ты лодку раскачиваешь, ну? Токсичный пользователь штоле? Не забывай, они  террористами переговоров не ведут.

раскрыть ветку 5
-5

Здравствуйте.

Был проработан только дизайн, сам функционал только брали в разработку. Мы анонсировали введение этих плашек до того, как принялись за их разработку, и соответственно, когда мы узнали, в чем была причина удалена приложения из плеймаркета, разработка была остановлена. Так что, по сути, мы разрабатываем ее с нуля, попутно пытаясь увязать ее с автоматическим определением эротического контента при загрузке его на сайт.

раскрыть ветку 17
ещё комментарии
0

Администрация вашей сообществ https://pikabu.ru/community/Uzbekistan скончался. Всё он умер. Новости никому не допускать. Модерируйте сами в место умершего человека @moderator, @SupportTech, @SupportCommunity, @admin, @uspeli

-7

причем там делов на часа два максимум, просили у них это уже джва года, а они только-только, с барского плеча решили обещание кинуть))) ахахха ну ебаный пиздец.

раскрыть ветку 16
-7

Они просто пиздят, если это не поможет, то не поможет ничего, кроме премодерации комментов и постов, потому что даже если будут банить людей за половинку жопы в комментах или посте, то ничего не мешает регать тонны новых аккаунтов, плодить ботов и засирать все хуями негров.

-6
Комментарий удален. Причина: оскорбления, грубое общение и провокации
ещё комментарии
+14

Можно ли подобную нейросеть прикрутить заодно к баянометру?

+21

Уважаемый @moderator, спрошу в очередной раз. В чем проблема сделать плагин с NSFW для мобильного приложения? Пару метров для скачки и никаких придирок со стороны гугл плея, потому что его ___нет___ в гугл плее. Все только ноют про "нет возможности поддерживать два приложения одновременно". Ну как бы никто и не просит два приложения. Отдельный плагин, захотел скачал, захотел удалил, откроет NSFW отдельной вкладочкой, к примеру. От обновлений основного приложения не зависит. Это действительно рабочий вариант, есть приложения, которые уже поступали так же и прекрасно существуют по сей день. Тогда в гугл плее валяется "официальная" версия, а на сайте маленький плагин в два метра, открывающий остальной функционал. Или ваши разработчики в состоянии только рейтинг накручивать с 2,2 до 4,0?


Тогда вся ваша великая нейросеть на NSFW нужна только, чтобы клубничка оставалась под соотвествующим тегом. Всё. А то закрытые соо... кому они вообще нужны - напостят второсортного дерьма с сиськами, а ты значит в нем копайся. Ни тебе отсева по плюсикам, как в горячем, ни хороших подборок. А как же художники? Куда им деваться?


И коль на то пошло. Вы сами-то смотрели свой список соо с разрешенным NSFW? Давайте я переведу на русский язык:

1) Уголок извращений - текстовая нудятина. Прямым текстом сказано, что красивые фото обнаженных девушек тут не приветствуются. Только хардкор. Мимо.

2) Лагерь Совёнок - Куча арта по тематической бесплатной игре. Часто некачественного. NSFW даже искать не хочется. Мимо.

3) Крепкие девушки - глаза вытекли на бодибилдерше, которая почему-то помечена как NSFW. Зачем? Почему? Мимо.

4) Kantai Collection - см. п.2

5) Фурри - аналогично, только что это не фандом, а целое направление в артах. Т.е. все кому не нравится, идут мимо.

6) Touhou Project - см. п.2

7) Милота с подвохом - Ееее! Мальчики, одетые как девочки. Всю жизнь мечтала. Мимо.

8) Полные и прекрасные - бодипозитив это хорошо, но что делать людям с другим вкусом? Мимо

9) Playgirl. Первый женский. - Вот даже не знаю, что ответить. Явно не милые голые девушки.

10) Аниме - почему пункт 2, 4, 5, 6 и 7 не висят тут? Все кому не нравятся заигнорят теги и будут листать только тру тянок. А как проверяется эта группа на соответствие маленьких голых тяночек возрасту от 18 и выше? Мимо

11) My Little Pony - кажется, когда-то я видела как Селестия делала blowjob рогу Твайлайт... но это явно был не пикабу. Мимо.


Вот и приплыли. Голые мужики? Пожалуйста. Голые анимешки? Да вот куча. Еще и пони трахаются.

А можно красивых девушек? Нет, они явно не подходят ни под один пункт из правил. Они не познавательные и не информационные. Это не произведение искусства. Это не анатомия и не юмор. И даже не комикс. Вот если барышня в купальнике из аниме - это косплей и его можно. А если барышня просто в купальнике без принадлежности фандому - все, капец и содомия, такому тут не рады. А соответствующих соо нету! Просто нет.

Ребят. Ау. Вы чего? Админ стал феминисткой и запрещает теперь красивых дам в белье и без оного? Он переиграл в Мортал Комбат 11? Да что с вами такое?!


Ну или создавайте сами соо. Соо NSFW контента от модеров. Пусть Ваша хваленая нейросеть не просто клеит теги, но и в соо сразу перенаправляет. А заодно пусть оно появляется в горячем, если пользователь на него подписан, ибо раздел "моя лента" работает как вздумает - периодически показывает посты, которых раньше не было, зато с публикацией в неделю назад.


Или просто удалили всю клубничку да и фиг с ней? Мне уже сейчас бежать сейвить на комп сохраненное или можно подождать? Судя по циферкам, в последние дни явно что-то бесследно исчезло.


А то интересно получается 1) "Нас удалили с гуглоплея, айяйяй, хер вам всем, а не клубничка в прилаге, мы ее отрежем максимально тупым образом и вообще валите в мобильную версию. Предложения выслушивать не собираемся". 2)"О, выкатили новую мобильную версию, жрите и радуйтесь, пофиг что функционал не дотягивает до прилаги. Предложения все так же не принимаем". 3) "Навертим на Успели призыв модера и никому не скажем. А потом типа обидимся и запретим клубничку навсегда. Оставим только закрытые соо с хреновым контентом, хохохо, мы молодцы"4)... 5) Profit?


Теперь ждать споры между "нейросеть и клубничка"?

А как быть с распознаванием образов у вашей сети? Вот есть картинка для обмана зрения, дельфины, которые силуэтами складываются в обнаженную пару. Такую картинку тоже нельзя выкладывать?


Вы заметили, что якобы дали альтернативу, но на самом деле нет? Зачем такие радикальные меры на любимом ресурсе...

раскрыть ветку 16
+6

Я вам намекну: что общее между администрацией Пикабу и устрицей?

раскрыть ветку 1
-15

Я не могу сказать насчет того, что было раньше, однако сейчас Гугл стал очень ревностно относиться к эротике и тому подобному. Например, неофициальное приложение Пикабу тоже было удалено. Наличие такого плагина, если оно будет официально распространяться, очень просто и быстро приведет к удалению приложения, о чем нам ясно дали понять в поддержке гугла.


Поэтому весь нсфв контент, который остается, в приложении недоступен и таковым, увы, останется.


Что до нейросети - мы знаем, что в некоторых случаях они сбоят, да и способы обхода их тоже не новы, но этот вариант - более объективный, чем когда модератор принимает решение о допустимости или недопустимости контента. Сейчас, пока мы даже еще не начали, рано говорить, лучше это будет или хуже, но мы пробуем сделать этот процесс более объективным и менее зависящим от модератора.

Возможно, будем также вручную контролировать работу сети, по крайней мере первое время уж точно.

раскрыть ветку 12
ещё комментарии
-1
Пусть Ваша хваленая нейросеть не просто клеит теги, но и в соо сразу перенаправляет.

Что то мне это напоминает... Ах да, @Uspeli, занимался практически этим делом.

+39
Вместо этого мы попробуем определять, является ли изображение эротическим, с помощью нейросети.

Пост в Машинное обучение запилите когда результаты будут? =)

раскрыть ветку 9
+15

Вот так, малята, и началось восстание машин

раскрыть ветку 1
+9

А что там пилить? Возьмут опен-сорсную обученную сеть и запустят, не надо быть гением машинного обучения. Главное, чтоб не привязывали автобан, как с успели, потому-то точность распознавания далеко не 100% и последнее слово должно быть за модератором.


Вообще, странно, что додумались только сейчас.

раскрыть ветку 6
+21

@moderator, а теперь очень сложный вопрос: где та граница, которую не надо переходить? Недавно только на пикабу была серия топовых постов с рейтингом выше 8к в поддержку учительницы в купальнике. С одной стороны это конечно просто солидарность, с другой стороны на пикабу это был чистый воды сексуализированный контент. Достаточно просто взглянуть на комментарии. А то получается, с одной стороны можно получить бан за подобные посты, а с другой стороны это нормальное явление для пикабу (по крайней мере было).


https://pikabu.ru/story/fleshmob_prodolzhaetsyauchitelya_toz...

https://pikabu.ru/story/rossiyskie_uchitelnitsyi_razdelis_v_...

https://pikabu.ru/story/yasno_ponyatno__6613025

ещё комментарии
+12
мы начинаем разработку функционала для сокрытия NSFW-контента в комментариях.

Т.е. клубника не будет полностью запрещена в комментах? Имеет ли смысл тогда разрешать её только в некоторых сообществах? Если скрытые комментарии могут быть везде.

раскрыть ветку 33
+11

Главное - скрыть NSFW-контент, чтобы минимизировать возможность повторных жалоб наподобие той, из-за которой удалили приложение из плеймаркета.

Там в правилах даже уже есть список сообществ "белого списка", в которых эротика так или иначе осталась (они, кстати, сегодня с утра радовались, что к ним после изменения правил набежали новые подписчики)

Если б никто никуда не жаловался, все было бы как прежде, просто прикрутили еще одну клубничную плашку в комменты.

А так надо все ограничивать и спасать сайт)

раскрыть ветку 2
-9

Именно клубника в том плане, что эротика ради эротики - запрещена. Подробнее тут: https://pikabu.ru/html.php?id=rules#6 Да, в некоторых сообществах её оставили, Вы правы.

раскрыть ветку 29
ещё комментарии
+8
>Вместо этого мы попробуем определять, является ли изображение эротическим, с помощью нейросети.

Несколько сомневаюсь что это хорошая идея, ибо тумблер тоже поставил модерацию изображений на автомат, и система распознавания изображений очень неадекватно себя вела

раскрыть ветку 4
+14

Отличная система, перебанила все мои рисунки с набросками рук. Теперь моя самооценка повысилась и думаю, что рисую дико сексуальные руки (нет). Мне больше интересно, что теперь будут делать с комментариями, на которых девушки будут в шортах или купальниках.

раскрыть ветку 1
-4

Дубль для @LemurS. Будем полагаться не только на нейросеть; модераторы также будут проверять её работу и спорные случаи.

раскрыть ветку 1
+5

Мне кажется вы не тот вектор взяли или у вас какое то своё видение, но это уже будет не тем самым любимым, народным сайтом.

раскрыть ветку 1
+1

Ага,  если оставить одну ваниль и удалить весь спорный контент получится очередной клон фишек.нет и баша

+5
Будет ли "Жесть" или другой "неподходящий для просмотра на работе" контент входить в NSFW?
Эротика меня не интересует, но я не против "жести" и другого контента, и не хочу, чтобы вместе с эротикой пропало что-то ещё.
раскрыть ветку 2
-2

Добрый вечер. На данный момент речь об эротическом контенте. Такой работы с жестью не планируем. Максимум - сделаем плашку для неё.

раскрыть ветку 1
+6
Вместо этого мы попробуем определять, является ли изображение эротическим, с помощью нейросети.

@moderator, можно про это поподробнее узнать? Что за нейросеть, как именно она работает? (если это, конечно, не засекреченная информация).


И еще: можно ли будет увидеть примеры ее работы? Может сделать доступ пикабушников к ней, чтобы можно было, к примеру, оценить степень сексуальности картинки, которую хочешь загрузить?

раскрыть ветку 12
+9

Стандартная многослойная инс по распознаванию образов, мне кажется.  Только, мне кажется, идея шлак, ибо эротика — расплывчатое и пиздец субъективное понятие, инс не получится обучить так, чтобы она работала достаточно хорошо для избегания драм)

раскрыть ветку 8
+6

Думаем попробовать Google Cloud AI, можно потестировать его работу здесь: https://cloud.google.com/vision/#vision-api-demo

+4
Может сделать доступ пикабушников к ней, чтобы можно было, к примеру, оценить степень сексуальности картинки, которую хочешь загрузить?

Это, кстати, очень хорошее предложение. Буду сильно удивлен, если его реализуют.

0

> @moderator, можно про это поподробнее узнать? Что за нейросеть, как именно она работает? (если это, конечно, не засекреченная информация).


google://nsfw detection github

тыщи их

+17

О, @L4rever, тебя использовать будут? ._ .

раскрыть ветку 26
+16

И маинку

раскрыть ветку 16
-22

что это за хер?

раскрыть ветку 8
ещё комментарии
+4
Тоесть, нейросеть с модерацией справится лучше, потому-что она не субъективна, так?
раскрыть ветку 12
+6

То есть глючная нейросеть это хороший ответ на вопрос "почему фото настольной лампы удалили с формулировкой "непотреьный контент"". Так можно тереть все что угодно и банить кого угодно и ссылаться на "ошибки при обучении инс". Давно понятно, что администрация пикабу херней страдает

раскрыть ветку 7
-1

Нейросеть + модераторы, которые будут проверять её работу. В сумме получим результат лучше того, что есть сейчас.

раскрыть ветку 2
-3

Это все вместо того, чтобы вышкалить беспристрастных модеров в своем коллективе 🤦

+47

Когда я писал этот комментарий, я думал, что я шутил.

#comment_135857573

Иллюстрация к комментарию
раскрыть ветку 59
+1

Что-то подобное писал и я где-то :D В принципе, мысль здравая)

-15

Если бы :(  Историю про блокировку не сочиняли, думаю, Вам стоит посмотреть посты админа и модератора, где есть эта тема. Всё куда сложнее. А за свой сайт мы грудью стоим, да. Это касается различных улучшений, вложений, траты времени, сил. Но мы видим, что это делается не зря, это нас радует.


Про клубнику:  полностью, на все 100 процентов, NSFW-контент мы не запрещали, лишь сделали так, чтобы остался интересный контент, а не эротика ради эротики.

раскрыть ветку 57