Как работают модераторы «ВКонтакте»: полная анонимность, стресс и тысячи постов в сутки
В конце февраля The Verge подробно рассказал о модераторах Facebook, которые удаляют спам, шок-контент, призывы к терроризму, а также банят пользователей. Несколько сотрудников соцсети рассказали, что ежедневный просмотр жестоких видео или статей с теориями заговора приводил к тому, что они меняли свои взгляды или обращались к психологам.
Модераторы Facebook раскрыли, как работает система безопасности в их отделе: они хранят смартфоны в специальных шкафчиках и находятся под регулярной охраной. Тем сотрудникам, что не справляются со стрессом, предлагают помощь по горячей линии психологического здоровья. Однако некоторые отметили, что довольны тем местом, где работают, и чувствуют себя в безопасности.
Для того, чтобы сравнить отдел модерации Facebook с работой модераторов «ВКонтакте», TJ связался с 11 сотрудниками, бывшими или нынешними модераторами, агентами поддержки и спам-аналитиками. Некоторые из них отказались говорить публично, некоторые — не ответили на прямые или провокационные вопросы. Также в материале использованы ответы пресс-службы «ВКонтакте», которая согласилась озвучить детали службы модераторов.
Модераторов сотни, они существуют с основания «ВКонтакте»
Модераторы — исторически одна из самых загадочных и малоизученных должностей во «ВКонтакте» — занимаются удалением запрещённого, жестокого или откровенного контента. Они отличаются от агентов поддержки (отвечают на жалобы пользователей) и спам-аналитиков (отлавливают спам и недобросовестную рекламу). Публично известно только об Иване Корнееве — руководителе отдела модерации, который нанимает сотрудников и выступает на конференциях. Он по просьбе TJ подробнее рассказал, что за люди становятся модераторами и как соцсеть следит за безопасностью данных.
На самом деле модераторов очень много: на странице «ВКонтакте с авторами» указано, что начиная с 2010 года команда увеличилась с десятка до нескольких сотен. Первые сотрудники отдела работали бесплатно и помогали команде, потому что хорошо относились к соцсети. Как рассказал TJ анонимный источник, ранее работавший в компании, многие попали в команду случайно: администрация раздавала функции модерации среди самых активных пользователей.
На заре «ВКонтакте» была такая штука — «модерация имён». Было важно, чтобы люди находили друг друга по именам, поэтому смены имени проверялись на правдоподобность, немалый процент вручную. Платили за это голосами. Модераторов имён требовалось много, и некоторых выбирали случайно из пользователей, никак не связанных с командой и никак не стремившихся в неё попасть. По активности на сайте и адекватности личной страницы.
Просыпается человек, заходит на страницу — а у него кнопка модерирования имён появилась внезапно. Пара человек из них стали очень хорошими модераторами контента потом. - бывший сотрудник «ВКонтакте»
После этого появились агенты поддержки — те, кто отвечают на жалобы пользователей — их отбирали через раздел «Вакансии». Модераторов продолжили искать непублично: брали тех, кто знает и понимает, как работает соцсеть, но не подходит для поддержки из-за недружелюбности или нежелания общаться с людьми. Иногда агенты поддержки уставали отвечать пользователям и уходили в модерацию.
Наиболее популярные темы для жалоб — это порнография, рекламные страницы, рассылка спама и оскорбительное поведение. Также есть отдельная модерационная группа, которая отвечает за удаление постов про наркотики, детское порно, насилие и прочий шок-контент. Имена тех, кто входит в отдел модераторов, названия этих групп и то, по какому принципу они разделяются, засекречены. Это сделано с целью защитить сотрудников от тех, кто публикует противоправный контент. Среди них могут быть те, кто захотят найти модераторов и отомстить за удаление публикации или бан. Даже если деанонимизировать несколько человек, через них можно найти остальных.
TJ обратился в пресс-службу «ВКонтакте», чтобы узнать об отделе модерации подробнее. Однако там заявили, что таких сотрудников «сотни», и они стремятся защитить их от известности: «У нас одна из самых больших команд модерации — сотни модераторов круглосуточно обрабатывают жалобы пользователей и проактивно блокируют опасный контент. Команда модерации растёт каждый год».
Работа без офиса, без графика, но с недельными нормами и высокой нагрузкой
Вакансии модераторов во «ВКонтакте» не размещаются на сайтах по поиску работы. Заявку можно подать через специальную форму, где задают три вопроса: чем эротика отличается от порно, чем спам отличается от флуда и где грань между дискуссией и намеренным оскорблением. У претендентов не требуют высшее образование или подобный опыт работы, достаточно аккаунта «ВКонтакте».
Соискатели проходят тест, который должен определять склонность к аналитическому мышлению, а также дополнительные задания о том, насколько они готовы к большому объёму информации. Результат выносят специалисты по набору персонала и несколько опытных сотрудников.
В вакансии модератора говорится, что модераторы должны жить в Москве или Петербурге, но могут работать удалённо. Модератор Олег в разговоре с TJ пояснил, что у них нет чёткого рабочего графика. Несмотря на это, чтобы выполнить все задачи, приходится тратить на модерацию минимум 8 часов в день. Его слова подтвердил другой модератор Сергей: «Работать можно под хорошее настроение и в свободное от прочих мирских сует время. Единственный минус — необходимость самоорганизации».
При желании модераторы могут пойти в офис, но, в отличие от Facebook, у них нет отдельного помещения. Им разрешают прийти в общий коворкинг, где сидят агенты поддержки, модераторы и спам-аналитики, но он находится не в главном здании в Доме «Зингера».
Наверное, основной плюс нашей работы — нет никакого офиса. Работа ведётся из дома. Глаза открыл, и уже на работе. Можно даже не умываться, всё равно никто не заметит. Просто мечта социофоба-интроверта. - аноним, бывший модератор
В прошлом у модераторов считались рабочие часы, сейчас — недельные нормы по количеству обработанного контента. Плюс учитывается то, как быстро модератор реагирует на жалобу пользователя и избавляется от запрещённого контента. Сотрудники разделены на группы, которые регулярно проверяют тремя способами: сотрудники оценивают действия друг друга, руководитель оценивает действия модераторов и проводятся комплексные проверки всего отдела. Кроме того руководитель может проверить как общие действия модератора, так и отдельно каждое принятое им решение.
«Палочной системы» у нас нет. В моём отделе важно, чтобы заявка была обработана, но положительно или отрицательно —принципиального значения уже не имеет. - Мария, спам-аналитик
Модераторы не могут раскрывать данные пользователей и не любят говорить о том, где работают
На страницах нескольких модераторов «ВКонтакте» нет пометки о том, что они работают в компании или каким-то образом связаны с модерацией контента в соцсети. Все сотрудники отдела подписывают договор о неразглашении (NDA) и, чаще всего, стараются сохранить максимальную анонимность.
Какие правила соблюдают модераторы:
- Им запрещено раскрывать личные данные пользователей и рассказывать о том, какую информацию удалили или отправили в спам;
- Согласно NDA, им также нельзя показывать рабочий стол, интерфейс системы модерации и говорить о том, как именно они ищут запрещённый контент;
- Модератор отчитывается обо всех своих действиях в системе модерации — когда удаляет пост, банит пользователя или отвечает на жалобу в поддержке;
- В системе модерации хранятся все действия сотрудников, указаны устройства, с которых они заходят в рабочий аккаунт, и показываются отчёты об их работе за день и за неделю;
- Если руководитель засомневается в действиях модератора, он может запросить у него пояснение, зачем понадобилась та или иная информация.
В первые годы модераторы обрабатывали жалобы и посты вручную, из-за этого работа занимала много времени, а компьютер нагружался большим количеством информации. Нынешние сотрудники отдела работают с самодельной системой «ВКонтакте», которая показывает подозрительные фото, видео или пост, и где есть кнопки «Забанить» и «Оставить». Сотрудники не могут показать интерфейс системы, так как любые скриншоты и видео подпадают под NDA.
За сутки модератор просматривает тысячи единиц контента. На простые тратит несколько секунд, на подробные — пару минут. Подозрительный пост не может висеть без реакции больше часа. Под запрет попадают только несколько процентов контента — на остальное жалуются зря.
И бывшие, и нынешние модераторы заявили, что ни разу не становились свидетелями кражи конфиденциальной информации или злоупотребления служебным положением. Сотрудникам отдела выдают минимальную информацию о том, как работает «ВКонтакте» и что пишет пользователь, чтобы не допустить утечки. Действующий модератор Катя пояснила, что за любое нарушение NDA или необоснованное использование личных данных пользователей последует увольнение.
Многие пользователи уверены, что модератор «ВКонтакте» — это всевидящее око большого брата, регистрирующее каждый шаг простых смертных. На деле всё гораздо прозаичнее: у нас нет доступа к личной переписке, что уж говорить о других секретных данных. - Катя, модератор «ВКонтакте»
О стрессе, шок-контенте и делах за экстремизм
Бывший модератор «ВКонтакте», пожелавший остаться анонимным, рассказал, что помнит несколько тяжёлых дней во время работы в отделе. Один из них — когда случилась авиакатастрофа над Синаем в 2015 году: «Я несколько дней работала в слезах, всё было заполнено постами и комментариями на тему — невольно вовлекаешься, когда видишь фотографии с места крушения». Ещё один подобный день вспомнила спам-аналитик Мария: по её словам, у многих сотрудников «было стрессовое состояние» в день пожара в «Зимней вишне» в Кемерово.
Остальные модераторы рассказали, что каждый день видят в ленте ролики с жестоким обращением с животными, порно, казнями, насилием над детьми — всё это так или иначе влияет на их восприятие мира. Кто-то не завтракает из-за того, что с утра наткнулся на ролик с расчленёнкой, а кто-то «познал дзен» после того, как переживал длительный стресс во время просмотра постов. «У меня пропали эмоции относительно многих вещей. Поначалу удивляло, зачем пользователи обмениваются омерзительным контентом, потом просто приняла всех», — говорит бывший модератор.
В отличие от сотрудников Facebook, опрошенные модераторы «ВКонтакте» не начали ходить к психологу и не изменили свои взгляды на мир, религию и политику. Однако несколько человек поделились, что стали меньше пить или курить, а также стали циничнее относиться к людям. По их мнению, единственное, что как-то помогает при таком количестве шокирующей информации — это чёрный юмор, свежие мемы и трезвый взгляд на мир. Как отметил бывший сотрудник соцсети, «впечатлительные не становятся модераторами», но на его памяти несколько человек всё-таки обращались за помощью к психологу.
Помню, один модератор в интервью рассказал: «Меня как человека, выросшего в России 1990-х, не могут напугать картинки из интернета». Соглашусь с ним. И большая часть модераторов согласится. А тем, кого действительно могут напугать, не стоит за эту работу браться. Полно других вакансий.
Так что рассказы о страданиях модераторов в США удивляют. У них там разве моногород, где Facebook и YouTube — единственные работодатели? Зачем они держатся за эту работу, если она им противна и зарплата не перекрывает недостатков? - бывший сотрудник «ВКонтакте»
По словам бывшего модератора, попавшие в этот отдел «в той или иной степени профдеформированы». В годы её работы они шутили обо всём ужасном, что видели в постах во «ВКонтакте»: некрофилии, сексуальных девиациях и жестокости. «Думаю, если бы посторонние люди имели возможность заглянуть в наш чат, многие были бы шокированы уровнем цинизма и чёрного юмора. Это наш способ сбросить напряжение, возможно, даже неосознанный», — закончил он.
За работу с шок-контентом в профильном отделе есть отдельная надбавка. Что касается психологической помощи — обычно таких просьб не поступает, но если появляется потребность, мы привлекаем психологов. - пресс-служба «ВКонтакте»
Отвлекаться от такого образа жизни на работе модераторам помогают классические увлечения — прогулки, фильмы, книги, тренировки. Однако они остаются на выходные, потому что в будние дни сотрудники отдела модерации должны постоянно находиться на связи и быть готовыми отреагировать на жалобу или призыв руководства в чат. «Забывать на 100% о работе не получалось, потому что всегда был открыт „ВКонтакте“ и рабочий чат с коллегами — надо быть в курсе всех изменений и нововведений, чтобы не „накосячить“», — рассказала бывший модератор.
Катя, действующий модератор, собирает коллекцию смешных и неординарных ругательств от пользователей, а также любит смеяться над тем, как те угрожают подать в Европейский суд по правам человека, когда им отказывают в обработке запроса.
Нынешние сотрудники «ВКонтакте» частично отказались говорить о теме экстремизма и дел за репосты, которые происходили в августе 2018 года. Некоторые отметили, что сожалеют о том, что людей судят за посты в соцсетях, но на их работе это никак не сказалось. Бывшие модераторы также с этим не сталкивались, так как работали до того, как за посты в соцсети начали привлекать по 282 УК РФ. По словам модератора Олега, у них чёткие установки о работе с экстремистскими постами — блокируются призывы к насилию, межнациональной и религиозной розни и прочие провокации — об этом говорили и в пресс-службе «ВКонтакте» ранее. Однако его беспокоит то, что происходит со свободой слова в России, и изменения политики работы соцсети в этом плане не помогают.
Меня как человека с прогрессивными взглядами на мир не может не беспокоить ситуация со свободой слова в нашей стране. И то, что людей привлекают к ответственности за те или иные репосты, которые никак не заслуживают такой реакции со стороны властей — это крайне печально. Но чтобы это прекратилось, нужно менять всю систему с самого верха, настройки приватности страниц — это лишь борьба с симптомами. - Олег, модератор «ВКонтакте»
В пресс-службе «ВКонтакте» добавили, что у них нет отдельного подразделения, которое занималось бы темой экстремизма, так как заявки на проверку и жалобы «попадают в разные отделы».
Зарплаты не с чем сравнить на рынке, зато есть ощущение причастности к чему-то важному
Бывший модератор, пожелавший остаться анонимным, заявил, что нагрузка на отдел модерации была гораздо выше в 2015-2016 годах. Тогда в отделе модерации «ВКонтакте» было меньше сотрудников и им приходилось работать по 12-14 часов в сутки.
Ни один из опрошенных TJ сотрудников, работавших или работающих во «ВКонтакте», не назвал конкретные размеры зарплаты. Другой бывший модератор пояснил, что им предлагали «скромные» по меркам Петербурга оклады, в особенности после кризиса 2014 года. Из-за специфики работы и секретности они также не могли сравнить, насколько можно считать выплаты средними по рынку — подобных вакансий почти нет, а в тех, что есть, зарплата особенно не афишируется.
С одной стороны, можно сказать, что зарплата довольно скромная для Петербурга. С другой — отсутствие затрат на проезд до места работы, что в мегаполисе может составлять приличную сумму, отсутствие расходов на обеды в общепите. И полный соцпакет, полис ДМС, корпоративные скидки во многих сервисах — от заказа еды до бронирования отелей. - аноним, бывший модератор
Модератор Олег добавил, что у них нет запрета на разглашение информации о зарплатах, однако он сам не хочет этого делать. По его словам, оклад чаще всего складывается из проделанной работы и выполнения норм: «Почти всегда есть опции дополнительного заработка, если хорошо справляешься с основным объёмом».
Несколько модераторов рассказали, что занимаются этой работой не только ради денег и карьерного роста, но и ради того, чтобы помогать пользователям и быть причастным к большой социальной сети. «Когда пользователь сталкивается с угрозой, ему, в общем-то, не к кому обратиться. Он напуган и не знает, что делать. И вот здесь в дело вступаем мы», — так о своей работе говорит спам-аналитик Дмитрий.
Случалось услышать от знакомых что-то в духе: «Какой ещё шок-контент? Какие проститутки, наркотики? Я ничего такого во „ВКонтакте“ не встречал». Это и есть результат нашей работы. Вполне наглядный. - Денис, старший спам-аналитик
Источник: https://tjournal.ru/internet/88068-kak-rabotayut-moderatory-...
Иллюстрации: https://vk.com/teetov
Голосовые сообщения части пользователей «ВКонтакте» обнаружили в открытом доступе
В разделе «Документы» во «ВКонтакте» обнаружили голосовые сообщения части пользователей. Чтобы их прослушать, достаточно ввести ввести в поиске по документам «audiocomment.3gp». На уязвимость обратили внимание на «Дваче».
По словам пользователей имиджборда, баг существует уже больше месяца. На момент написания заметки в результатах поиска отображаются более 2 тысяч записей. Если кликнуть на любой из файлов, то можно будет определить, кто его записал — в ссылке содержится id страницы.
Источники TJ, знакомые с ситуацией, пояснили, что уязвимость может быть связана не с дырой во «ВКонтакте», а с недоработками разработчиков сторонних клиентов. Вероятнее всего, доступны только аудиосообщения, отправленные через приложения вроде VK Coffee или Kate Mobile.
Во «ВКонтакте» рассказали TJ, что соцсеть не хранит аудиозаписи в формате «audiocomment.3gp». Представители сервиса пояснили, что причиной проблемы стали неофициальные приложения и пообещали выключить поиск по подобным файлам.
Уязвимости «ВКонтакте» нет — все голосовые сообщения в приложении «ВКонтакте» защищены. Никто, кроме самих участников переписки, не сможет получить к ним доступ.
По нашим данным, в раздел «Документы» попала часть аудиосообщений, которые пользователи загружали через сторонние неофициальные приложения. Мы настоятельно рекомендуем использовать официальные приложения ВКонтакте.
пресс-служба «ВКонтакте»
Разработчики создали SearchFace — рабочий аналог закрытого FindFace с поиском пользователей «ВКонтакте» по фотографии
Сервис в большинстве случаев точно находит человека, попавшего на фото.
11 февраля пользователи «Хабрахабра» и «Двача» обратили внимание на сервис searchface.ru. По функциональности приложение повторяет FindFace: пользователи могут загрузить фото и найти похожих пользователей «ВКонтакте». Однако разработчики FindFace закрыли поиск по снимкам осенью 2018 года, так что SearchFace окрестили «первым рабочим аналогом» популярного сервиса.
О создателях нового приложения почти ничего не известно. На «Хабре» выяснили, что домен был зарегистрирован в ноябре 2018 года, но все контакты скрыты. Также в соцсетях появились ссылки на «чаты разработчиков» в Telegram, где обсуждали функциональность сервиса по поиску людей ещё с осени 2018 года. Согласно чату, SearchFace запустился 8 февраля.
Редактор TJ протестировал SearchFace: алгоритм точно отыскал настоящую страницу во «ВКонтакте» в большинстве случаев. Тесты читателей TJ тоже показали высокую точность поиска. Сервис предлагает сразу несколько страниц с примерами фотографий, похожих на загруженную. При этом SearchFace справляется с «помехами» вроде шапки или очков.
Пример фото, загруженного в SearchFace, 2019 год
Результаты: все фото (2013-2015 годы) найдены верно, несмотря на другую причёску и очки. Один из предложенных вариантов — неизвестный пользователь, взявший аватарку редактора TJ из Твиттера
Нет никакой информации о том, какой базой фото пользуются разработчики SearchFace. По данным пользователей «Хабра», сервис находит даже закрытые профили.
Краткая инструкция, как пользоваться SearchFace:
- Начальный экран состоит исключительно из поля, куда нужно загрузить фото;
- После загрузки сервис предлагает несколько страниц из «ВКонтакте» с примерами совпадающих лиц. У каждого профиля есть оценка совпадения. По словам разработчиков, если оценка выше 0.67, то это «полное совпадение»;
- Чтобы повторить поиск, страницу нужно обновить — без этого не сработает кнопка загрузки нового фото.
FindFace, принадлежащий компании NtechLab, запустился в 2016 году и с тех пор поучаствовал сразу в нескольких историй, связанных с точным поиском по фото из лифта или снимкам, сделанным в метро. Затем разработчики стали сотрудничать с властями Москвы: например, они подключили систему распознавания лиц к камерам видеонаблюдения.
С 1 сентября 2018 года NtechLab не оказывает услуги открытого поиска людей по профилям «ВКонтакте». Причина — разработчики «сфокусировались на специализированных решениях для государства и бизнеса на базе технологии распознавания лиц».
Источник: Женя Кузьмин / tjournal.ru
Экстремистские мемы и кого они оскорбляют
"23 июля жительница Барнаула Мария Мотузная рассказала в 25 твитах, как её обвинили в экстремизме из-за картинок во «ВКонтакте» про религию и «унижение негроидной расы»."
Подробнее тут:
https://pikabu.ru/story/dazhe_ne_znayu_prosto_khochetsya_pod...
https://pikabu.ru/story/nu_cho_ocherednoe_ugolovnoe_delo_za_...
https://tjournal.ru/74127-tred-o-lichnom-opyte-obvineniy-v-e...
В своем твиттере девушка выложила следующие фотографии с показаниями двух свидетелей
"19-летний студент из Барнаула Даниил Маркин рассказал на своей странице «ВКонтакте» о том, что уже год является фигурантом уголовного дела по части 1 статьи 282 УК РФ (Возбуждение ненависти либо вражды)
По словам студента, 25 июля 2017 года в шесть утра к нему в квартиру пришли сотрудники Центра «Э» с целью провести обыск. В то же время обыск проводили и у его родителей. Маркина отвезли в отделение, где предъявили мемы, на основании которых пришли к нему домой, посоветовав признаться во всем, чтобы легко отделаться. Среди них были картинки с Гарольдом, скрывающим боль, а также Джоном Сноу из «Игры Престолов»."
https://tjournal.ru/74334-luchshego-cirka-ya-eshche-ne-licez...
Здесь есть фотографии тех ужасных мемов
https://mbk.sobchakprotivvseh.ru/region/raz-i-navsegda-ya-uz...
Так вот что любопытно, дела на Марию Мотузную и Даниила Маркина завели на основании показаний одних и тех же людей — соседок по общежитию Анастасии Битнер и Дарьи Исаенко, обучающихся, судя по сохраненной странице Анастасии Битнер из соцсетей, в Алтайском филиале РанхИГС на кафедре уголовно правовых дисциплин.
Мария, обвиняемая по первому делу, даже пыталась связаться со "свидетельницами"
Карта российского Твиттера, на которой есть TJ, «Пикабу», «ВКонтакте» и многие другие
(via kristinaboyar)
Где Роналду?
(взято с vk TJ)
Сказочная математика
Как отметило издание «Медуза», издательство АСТ выпустило ещё несколько детских книжек с числами в названиях, которые содержат иное количество произведений. Среди них:
«100 любимых стихов. Агния Барто, Корней Чуковский» — 22 стиха;
«100 сказок. Сергей Михалков» — 34 сказки;
«100 песенок для маленьких» — 43 песенки.