Вопрос по искусственному интеллекту модерации пикабу [Есть ответ]⁠⁠

Как то ИИ Пикабу неправильно выявляет оскорбления. Опытным путем было выявлено, что нельзя в одном комментарии использовать слова "Украина", "нацизм", "либерал". Это ЦИПСО постаралось так настроить алгоритмы пикабу? Или просто инженер ИИ мышей не ловит? С одной стороны вроде как пофиг на эти предупреждения. С другой, если не обращать на них внимания алгоритм сам банит через какое то время. Что-то с этим надо делать, @moderator, в комменте ниже нет никакого оскорбления никого. А пикабу находит.

Ответ модерации: #comment_234504190

Модерация на Пикабу

4.8K пост1.8K подписчиков

Добавить пост

Правила сообщества

Обязательно призовите модератора в тексте поста или в комментариях к нему

Если пост касается конкретного случая модерирования, подробно опишите проблему, а в содержании поста обязательно укажите:

– содержание удаленного комментария и ссылку на него,

– ссылку на пост или комментарий которые привели к блокировке аккаунта.

Эти данные позволят оценить правомерность действия модератора другим пользователям.

Вы смотрите срез комментариев. Показать все

Moderator777

2 года назад

С другой, если не обращать на них внимания алгоритм сам банит через какое то время.

Этот алгоритм не банит. Нейросеть, которая выдаёт вам информацию о возможном оскорбительном характере комментария, оценивает только содержимое этого комментария. Её единственное назначение - предупреждение о том, что в комментарии возможно содержится нарушение, а далее выбор целиком за вами. Можете к ней прислушаться и переформулировать комментарий, можете её проигнорировать, если уверены что содержащиеся грубости не являются нарушением правил.

Нейросеть по отслеживанию токсичности, на основе работы которой выдаются слоумоды, оценивает множество комментариев по множеству параметров. И выдаёт нам список пользователей, которые, по её мнению, проявляют систематическую грубость. Далее эти пользователи проверяются вручную. Решение о том, выдавать им ограничение или нет, принимает всё равно модератор. И случаи, в которых мы не соглашаемся с её решением, периодически происходят. Например, если человек просто использует много мата, но он при этом никак не направлен на пользователей.

раскрыть ветку (6)

M.Kram

2 года назад

И случаи, в которых мы не соглашаемся с её решением, периодически происходят.

И что происходит после этого? Кому приходится спать на неудобном диване - модератору или нейросети?

А вообще, спасибо. Это первый раз, когда я встретил чёткий и внятный ответ о механизме слоумода. Не думали сделать пост об этом? Это было бы очень полезно.