Как работают модераторы «ВКонтакте»: полная анонимность, стресс и тысячи постов в сутки
В конце февраля The Verge подробно рассказал о модераторах Facebook, которые удаляют спам, шок-контент, призывы к терроризму, а также банят пользователей. Несколько сотрудников соцсети рассказали, что ежедневный просмотр жестоких видео или статей с теориями заговора приводил к тому, что они меняли свои взгляды или обращались к психологам.
Модераторы Facebook раскрыли, как работает система безопасности в их отделе: они хранят смартфоны в специальных шкафчиках и находятся под регулярной охраной. Тем сотрудникам, что не справляются со стрессом, предлагают помощь по горячей линии психологического здоровья. Однако некоторые отметили, что довольны тем местом, где работают, и чувствуют себя в безопасности.
Для того, чтобы сравнить отдел модерации Facebook с работой модераторов «ВКонтакте», TJ связался с 11 сотрудниками, бывшими или нынешними модераторами, агентами поддержки и спам-аналитиками. Некоторые из них отказались говорить публично, некоторые — не ответили на прямые или провокационные вопросы. Также в материале использованы ответы пресс-службы «ВКонтакте», которая согласилась озвучить детали службы модераторов.
Модераторов сотни, они существуют с основания «ВКонтакте»
Модераторы — исторически одна из самых загадочных и малоизученных должностей во «ВКонтакте» — занимаются удалением запрещённого, жестокого или откровенного контента. Они отличаются от агентов поддержки (отвечают на жалобы пользователей) и спам-аналитиков (отлавливают спам и недобросовестную рекламу). Публично известно только об Иване Корнееве — руководителе отдела модерации, который нанимает сотрудников и выступает на конференциях. Он по просьбе TJ подробнее рассказал, что за люди становятся модераторами и как соцсеть следит за безопасностью данных.
На самом деле модераторов очень много: на странице «ВКонтакте с авторами» указано, что начиная с 2010 года команда увеличилась с десятка до нескольких сотен. Первые сотрудники отдела работали бесплатно и помогали команде, потому что хорошо относились к соцсети. Как рассказал TJ анонимный источник, ранее работавший в компании, многие попали в команду случайно: администрация раздавала функции модерации среди самых активных пользователей.
На заре «ВКонтакте» была такая штука — «модерация имён». Было важно, чтобы люди находили друг друга по именам, поэтому смены имени проверялись на правдоподобность, немалый процент вручную. Платили за это голосами. Модераторов имён требовалось много, и некоторых выбирали случайно из пользователей, никак не связанных с командой и никак не стремившихся в неё попасть. По активности на сайте и адекватности личной страницы.
Просыпается человек, заходит на страницу — а у него кнопка модерирования имён появилась внезапно. Пара человек из них стали очень хорошими модераторами контента потом. - бывший сотрудник «ВКонтакте»
После этого появились агенты поддержки — те, кто отвечают на жалобы пользователей — их отбирали через раздел «Вакансии». Модераторов продолжили искать непублично: брали тех, кто знает и понимает, как работает соцсеть, но не подходит для поддержки из-за недружелюбности или нежелания общаться с людьми. Иногда агенты поддержки уставали отвечать пользователям и уходили в модерацию.
Наиболее популярные темы для жалоб — это порнография, рекламные страницы, рассылка спама и оскорбительное поведение. Также есть отдельная модерационная группа, которая отвечает за удаление постов про наркотики, детское порно, насилие и прочий шок-контент. Имена тех, кто входит в отдел модераторов, названия этих групп и то, по какому принципу они разделяются, засекречены. Это сделано с целью защитить сотрудников от тех, кто публикует противоправный контент. Среди них могут быть те, кто захотят найти модераторов и отомстить за удаление публикации или бан. Даже если деанонимизировать несколько человек, через них можно найти остальных.
TJ обратился в пресс-службу «ВКонтакте», чтобы узнать об отделе модерации подробнее. Однако там заявили, что таких сотрудников «сотни», и они стремятся защитить их от известности: «У нас одна из самых больших команд модерации — сотни модераторов круглосуточно обрабатывают жалобы пользователей и проактивно блокируют опасный контент. Команда модерации растёт каждый год».
Работа без офиса, без графика, но с недельными нормами и высокой нагрузкой
Вакансии модераторов во «ВКонтакте» не размещаются на сайтах по поиску работы. Заявку можно подать через специальную форму, где задают три вопроса: чем эротика отличается от порно, чем спам отличается от флуда и где грань между дискуссией и намеренным оскорблением. У претендентов не требуют высшее образование или подобный опыт работы, достаточно аккаунта «ВКонтакте».
Соискатели проходят тест, который должен определять склонность к аналитическому мышлению, а также дополнительные задания о том, насколько они готовы к большому объёму информации. Результат выносят специалисты по набору персонала и несколько опытных сотрудников.
В вакансии модератора говорится, что модераторы должны жить в Москве или Петербурге, но могут работать удалённо. Модератор Олег в разговоре с TJ пояснил, что у них нет чёткого рабочего графика. Несмотря на это, чтобы выполнить все задачи, приходится тратить на модерацию минимум 8 часов в день. Его слова подтвердил другой модератор Сергей: «Работать можно под хорошее настроение и в свободное от прочих мирских сует время. Единственный минус — необходимость самоорганизации».
При желании модераторы могут пойти в офис, но, в отличие от Facebook, у них нет отдельного помещения. Им разрешают прийти в общий коворкинг, где сидят агенты поддержки, модераторы и спам-аналитики, но он находится не в главном здании в Доме «Зингера».
Наверное, основной плюс нашей работы — нет никакого офиса. Работа ведётся из дома. Глаза открыл, и уже на работе. Можно даже не умываться, всё равно никто не заметит. Просто мечта социофоба-интроверта. - аноним, бывший модератор
В прошлом у модераторов считались рабочие часы, сейчас — недельные нормы по количеству обработанного контента. Плюс учитывается то, как быстро модератор реагирует на жалобу пользователя и избавляется от запрещённого контента. Сотрудники разделены на группы, которые регулярно проверяют тремя способами: сотрудники оценивают действия друг друга, руководитель оценивает действия модераторов и проводятся комплексные проверки всего отдела. Кроме того руководитель может проверить как общие действия модератора, так и отдельно каждое принятое им решение.
«Палочной системы» у нас нет. В моём отделе важно, чтобы заявка была обработана, но положительно или отрицательно —принципиального значения уже не имеет. - Мария, спам-аналитик
Модераторы не могут раскрывать данные пользователей и не любят говорить о том, где работают
На страницах нескольких модераторов «ВКонтакте» нет пометки о том, что они работают в компании или каким-то образом связаны с модерацией контента в соцсети. Все сотрудники отдела подписывают договор о неразглашении (NDA) и, чаще всего, стараются сохранить максимальную анонимность.
Какие правила соблюдают модераторы:
- Им запрещено раскрывать личные данные пользователей и рассказывать о том, какую информацию удалили или отправили в спам;
- Согласно NDA, им также нельзя показывать рабочий стол, интерфейс системы модерации и говорить о том, как именно они ищут запрещённый контент;
- Модератор отчитывается обо всех своих действиях в системе модерации — когда удаляет пост, банит пользователя или отвечает на жалобу в поддержке;
- В системе модерации хранятся все действия сотрудников, указаны устройства, с которых они заходят в рабочий аккаунт, и показываются отчёты об их работе за день и за неделю;
- Если руководитель засомневается в действиях модератора, он может запросить у него пояснение, зачем понадобилась та или иная информация.
В первые годы модераторы обрабатывали жалобы и посты вручную, из-за этого работа занимала много времени, а компьютер нагружался большим количеством информации. Нынешние сотрудники отдела работают с самодельной системой «ВКонтакте», которая показывает подозрительные фото, видео или пост, и где есть кнопки «Забанить» и «Оставить». Сотрудники не могут показать интерфейс системы, так как любые скриншоты и видео подпадают под NDA.
За сутки модератор просматривает тысячи единиц контента. На простые тратит несколько секунд, на подробные — пару минут. Подозрительный пост не может висеть без реакции больше часа. Под запрет попадают только несколько процентов контента — на остальное жалуются зря.
И бывшие, и нынешние модераторы заявили, что ни разу не становились свидетелями кражи конфиденциальной информации или злоупотребления служебным положением. Сотрудникам отдела выдают минимальную информацию о том, как работает «ВКонтакте» и что пишет пользователь, чтобы не допустить утечки. Действующий модератор Катя пояснила, что за любое нарушение NDA или необоснованное использование личных данных пользователей последует увольнение.
Многие пользователи уверены, что модератор «ВКонтакте» — это всевидящее око большого брата, регистрирующее каждый шаг простых смертных. На деле всё гораздо прозаичнее: у нас нет доступа к личной переписке, что уж говорить о других секретных данных. - Катя, модератор «ВКонтакте»
О стрессе, шок-контенте и делах за экстремизм
Бывший модератор «ВКонтакте», пожелавший остаться анонимным, рассказал, что помнит несколько тяжёлых дней во время работы в отделе. Один из них — когда случилась авиакатастрофа над Синаем в 2015 году: «Я несколько дней работала в слезах, всё было заполнено постами и комментариями на тему — невольно вовлекаешься, когда видишь фотографии с места крушения». Ещё один подобный день вспомнила спам-аналитик Мария: по её словам, у многих сотрудников «было стрессовое состояние» в день пожара в «Зимней вишне» в Кемерово.
Остальные модераторы рассказали, что каждый день видят в ленте ролики с жестоким обращением с животными, порно, казнями, насилием над детьми — всё это так или иначе влияет на их восприятие мира. Кто-то не завтракает из-за того, что с утра наткнулся на ролик с расчленёнкой, а кто-то «познал дзен» после того, как переживал длительный стресс во время просмотра постов. «У меня пропали эмоции относительно многих вещей. Поначалу удивляло, зачем пользователи обмениваются омерзительным контентом, потом просто приняла всех», — говорит бывший модератор.
В отличие от сотрудников Facebook, опрошенные модераторы «ВКонтакте» не начали ходить к психологу и не изменили свои взгляды на мир, религию и политику. Однако несколько человек поделились, что стали меньше пить или курить, а также стали циничнее относиться к людям. По их мнению, единственное, что как-то помогает при таком количестве шокирующей информации — это чёрный юмор, свежие мемы и трезвый взгляд на мир. Как отметил бывший сотрудник соцсети, «впечатлительные не становятся модераторами», но на его памяти несколько человек всё-таки обращались за помощью к психологу.
Помню, один модератор в интервью рассказал: «Меня как человека, выросшего в России 1990-х, не могут напугать картинки из интернета». Соглашусь с ним. И большая часть модераторов согласится. А тем, кого действительно могут напугать, не стоит за эту работу браться. Полно других вакансий.
Так что рассказы о страданиях модераторов в США удивляют. У них там разве моногород, где Facebook и YouTube — единственные работодатели? Зачем они держатся за эту работу, если она им противна и зарплата не перекрывает недостатков? - бывший сотрудник «ВКонтакте»
По словам бывшего модератора, попавшие в этот отдел «в той или иной степени профдеформированы». В годы её работы они шутили обо всём ужасном, что видели в постах во «ВКонтакте»: некрофилии, сексуальных девиациях и жестокости. «Думаю, если бы посторонние люди имели возможность заглянуть в наш чат, многие были бы шокированы уровнем цинизма и чёрного юмора. Это наш способ сбросить напряжение, возможно, даже неосознанный», — закончил он.
За работу с шок-контентом в профильном отделе есть отдельная надбавка. Что касается психологической помощи — обычно таких просьб не поступает, но если появляется потребность, мы привлекаем психологов. - пресс-служба «ВКонтакте»
Отвлекаться от такого образа жизни на работе модераторам помогают классические увлечения — прогулки, фильмы, книги, тренировки. Однако они остаются на выходные, потому что в будние дни сотрудники отдела модерации должны постоянно находиться на связи и быть готовыми отреагировать на жалобу или призыв руководства в чат. «Забывать на 100% о работе не получалось, потому что всегда был открыт „ВКонтакте“ и рабочий чат с коллегами — надо быть в курсе всех изменений и нововведений, чтобы не „накосячить“», — рассказала бывший модератор.
Катя, действующий модератор, собирает коллекцию смешных и неординарных ругательств от пользователей, а также любит смеяться над тем, как те угрожают подать в Европейский суд по правам человека, когда им отказывают в обработке запроса.
Нынешние сотрудники «ВКонтакте» частично отказались говорить о теме экстремизма и дел за репосты, которые происходили в августе 2018 года. Некоторые отметили, что сожалеют о том, что людей судят за посты в соцсетях, но на их работе это никак не сказалось. Бывшие модераторы также с этим не сталкивались, так как работали до того, как за посты в соцсети начали привлекать по 282 УК РФ. По словам модератора Олега, у них чёткие установки о работе с экстремистскими постами — блокируются призывы к насилию, межнациональной и религиозной розни и прочие провокации — об этом говорили и в пресс-службе «ВКонтакте» ранее. Однако его беспокоит то, что происходит со свободой слова в России, и изменения политики работы соцсети в этом плане не помогают.
Меня как человека с прогрессивными взглядами на мир не может не беспокоить ситуация со свободой слова в нашей стране. И то, что людей привлекают к ответственности за те или иные репосты, которые никак не заслуживают такой реакции со стороны властей — это крайне печально. Но чтобы это прекратилось, нужно менять всю систему с самого верха, настройки приватности страниц — это лишь борьба с симптомами. - Олег, модератор «ВКонтакте»
В пресс-службе «ВКонтакте» добавили, что у них нет отдельного подразделения, которое занималось бы темой экстремизма, так как заявки на проверку и жалобы «попадают в разные отделы».
Зарплаты не с чем сравнить на рынке, зато есть ощущение причастности к чему-то важному
Бывший модератор, пожелавший остаться анонимным, заявил, что нагрузка на отдел модерации была гораздо выше в 2015-2016 годах. Тогда в отделе модерации «ВКонтакте» было меньше сотрудников и им приходилось работать по 12-14 часов в сутки.
Ни один из опрошенных TJ сотрудников, работавших или работающих во «ВКонтакте», не назвал конкретные размеры зарплаты. Другой бывший модератор пояснил, что им предлагали «скромные» по меркам Петербурга оклады, в особенности после кризиса 2014 года. Из-за специфики работы и секретности они также не могли сравнить, насколько можно считать выплаты средними по рынку — подобных вакансий почти нет, а в тех, что есть, зарплата особенно не афишируется.
С одной стороны, можно сказать, что зарплата довольно скромная для Петербурга. С другой — отсутствие затрат на проезд до места работы, что в мегаполисе может составлять приличную сумму, отсутствие расходов на обеды в общепите. И полный соцпакет, полис ДМС, корпоративные скидки во многих сервисах — от заказа еды до бронирования отелей. - аноним, бывший модератор
Модератор Олег добавил, что у них нет запрета на разглашение информации о зарплатах, однако он сам не хочет этого делать. По его словам, оклад чаще всего складывается из проделанной работы и выполнения норм: «Почти всегда есть опции дополнительного заработка, если хорошо справляешься с основным объёмом».
Несколько модераторов рассказали, что занимаются этой работой не только ради денег и карьерного роста, но и ради того, чтобы помогать пользователям и быть причастным к большой социальной сети. «Когда пользователь сталкивается с угрозой, ему, в общем-то, не к кому обратиться. Он напуган и не знает, что делать. И вот здесь в дело вступаем мы», — так о своей работе говорит спам-аналитик Дмитрий.
Случалось услышать от знакомых что-то в духе: «Какой ещё шок-контент? Какие проститутки, наркотики? Я ничего такого во „ВКонтакте“ не встречал». Это и есть результат нашей работы. Вполне наглядный. - Денис, старший спам-аналитик
Источник: https://tjournal.ru/internet/88068-kak-rabotayut-moderatory-...
Иллюстрации: https://vk.com/teetov
Голосовые сообщения части пользователей «ВКонтакте» обнаружили в открытом доступе
В разделе «Документы» во «ВКонтакте» обнаружили голосовые сообщения части пользователей. Чтобы их прослушать, достаточно ввести ввести в поиске по документам «audiocomment.3gp». На уязвимость обратили внимание на «Дваче».
По словам пользователей имиджборда, баг существует уже больше месяца. На момент написания заметки в результатах поиска отображаются более 2 тысяч записей. Если кликнуть на любой из файлов, то можно будет определить, кто его записал — в ссылке содержится id страницы.
Источники TJ, знакомые с ситуацией, пояснили, что уязвимость может быть связана не с дырой во «ВКонтакте», а с недоработками разработчиков сторонних клиентов. Вероятнее всего, доступны только аудиосообщения, отправленные через приложения вроде VK Coffee или Kate Mobile.
Во «ВКонтакте» рассказали TJ, что соцсеть не хранит аудиозаписи в формате «audiocomment.3gp». Представители сервиса пояснили, что причиной проблемы стали неофициальные приложения и пообещали выключить поиск по подобным файлам.
Уязвимости «ВКонтакте» нет — все голосовые сообщения в приложении «ВКонтакте» защищены. Никто, кроме самих участников переписки, не сможет получить к ним доступ.
По нашим данным, в раздел «Документы» попала часть аудиосообщений, которые пользователи загружали через сторонние неофициальные приложения. Мы настоятельно рекомендуем использовать официальные приложения ВКонтакте.
пресс-служба «ВКонтакте»
Поиграем в бизнесменов?
Одна вакансия, два кандидата. Сможете выбрать лучшего? И так пять раз.
Разработчики создали SearchFace — рабочий аналог закрытого FindFace с поиском пользователей «ВКонтакте» по фотографии
Сервис в большинстве случаев точно находит человека, попавшего на фото.
11 февраля пользователи «Хабрахабра» и «Двача» обратили внимание на сервис searchface.ru. По функциональности приложение повторяет FindFace: пользователи могут загрузить фото и найти похожих пользователей «ВКонтакте». Однако разработчики FindFace закрыли поиск по снимкам осенью 2018 года, так что SearchFace окрестили «первым рабочим аналогом» популярного сервиса.
О создателях нового приложения почти ничего не известно. На «Хабре» выяснили, что домен был зарегистрирован в ноябре 2018 года, но все контакты скрыты. Также в соцсетях появились ссылки на «чаты разработчиков» в Telegram, где обсуждали функциональность сервиса по поиску людей ещё с осени 2018 года. Согласно чату, SearchFace запустился 8 февраля.
Редактор TJ протестировал SearchFace: алгоритм точно отыскал настоящую страницу во «ВКонтакте» в большинстве случаев. Тесты читателей TJ тоже показали высокую точность поиска. Сервис предлагает сразу несколько страниц с примерами фотографий, похожих на загруженную. При этом SearchFace справляется с «помехами» вроде шапки или очков.
Пример фото, загруженного в SearchFace, 2019 год
Результаты: все фото (2013-2015 годы) найдены верно, несмотря на другую причёску и очки. Один из предложенных вариантов — неизвестный пользователь, взявший аватарку редактора TJ из Твиттера
Нет никакой информации о том, какой базой фото пользуются разработчики SearchFace. По данным пользователей «Хабра», сервис находит даже закрытые профили.
Краткая инструкция, как пользоваться SearchFace:
- Начальный экран состоит исключительно из поля, куда нужно загрузить фото;
- После загрузки сервис предлагает несколько страниц из «ВКонтакте» с примерами совпадающих лиц. У каждого профиля есть оценка совпадения. По словам разработчиков, если оценка выше 0.67, то это «полное совпадение»;
- Чтобы повторить поиск, страницу нужно обновить — без этого не сработает кнопка загрузки нового фото.
FindFace, принадлежащий компании NtechLab, запустился в 2016 году и с тех пор поучаствовал сразу в нескольких историй, связанных с точным поиском по фото из лифта или снимкам, сделанным в метро. Затем разработчики стали сотрудничать с властями Москвы: например, они подключили систему распознавания лиц к камерам видеонаблюдения.
С 1 сентября 2018 года NtechLab не оказывает услуги открытого поиска людей по профилям «ВКонтакте». Причина — разработчики «сфокусировались на специализированных решениях для государства и бизнеса на базе технологии распознавания лиц».
Источник: Женя Кузьмин / tjournal.ru
Экстремистские мемы и кого они оскорбляют
"23 июля жительница Барнаула Мария Мотузная рассказала в 25 твитах, как её обвинили в экстремизме из-за картинок во «ВКонтакте» про религию и «унижение негроидной расы»."
Подробнее тут:
https://pikabu.ru/story/dazhe_ne_znayu_prosto_khochetsya_pod...
https://pikabu.ru/story/nu_cho_ocherednoe_ugolovnoe_delo_za_...
https://tjournal.ru/74127-tred-o-lichnom-opyte-obvineniy-v-e...
В своем твиттере девушка выложила следующие фотографии с показаниями двух свидетелей
"19-летний студент из Барнаула Даниил Маркин рассказал на своей странице «ВКонтакте» о том, что уже год является фигурантом уголовного дела по части 1 статьи 282 УК РФ (Возбуждение ненависти либо вражды)
По словам студента, 25 июля 2017 года в шесть утра к нему в квартиру пришли сотрудники Центра «Э» с целью провести обыск. В то же время обыск проводили и у его родителей. Маркина отвезли в отделение, где предъявили мемы, на основании которых пришли к нему домой, посоветовав признаться во всем, чтобы легко отделаться. Среди них были картинки с Гарольдом, скрывающим боль, а также Джоном Сноу из «Игры Престолов»."
https://tjournal.ru/74334-luchshego-cirka-ya-eshche-ne-licez...
Здесь есть фотографии тех ужасных мемов
https://mbk.sobchakprotivvseh.ru/region/raz-i-navsegda-ya-uz...
Так вот что любопытно, дела на Марию Мотузную и Даниила Маркина завели на основании показаний одних и тех же людей — соседок по общежитию Анастасии Битнер и Дарьи Исаенко, обучающихся, судя по сохраненной странице Анастасии Битнер из соцсетей, в Алтайском филиале РанхИГС на кафедре уголовно правовых дисциплин.
Мария, обвиняемая по первому делу, даже пыталась связаться со "свидетельницами"
Сможете найти на картинке цифру среди букв?
Справились? Тогда попробуйте пройти нашу новую игру на внимательность. Приз — награда в профиль на Пикабу: https://pikabu.ru/link/-oD8sjtmAi
Сказочная математика
Как отметило издание «Медуза», издательство АСТ выпустило ещё несколько детских книжек с числами в названиях, которые содержат иное количество произведений. Среди них:
«100 любимых стихов. Агния Барто, Корней Чуковский» — 22 стиха;
«100 сказок. Сергей Михалков» — 34 сказки;
«100 песенок для маленьких» — 43 песенки.