Patrick Tehan / San Jose Mercury News / MCT / Sipa USA / VIda Press
Социальная сеть Facebook запустила в Австралии программу борьбы с «порноместью» — публикацией интимных фотографий и видео бывших партнеров. Устроена она довольно странно: пользователь должен заранее отправить самому себе снимки, которые, как он полагает, могут быть опубликованы в соцсети. Позже выяснилась еще более странная деталь: снимки будут просматривать модераторы фейсбука.
Для борьбы с «порноместью» фейсбук объединился с комиссаром по онлайн-безопасности Австралии Джули Инман-Грант. The Guardian описывал пилотную программу так: пользователь, который боится утечки интимных фото, должен заполнить специальную форму на сайте комиссара, а затем переслать себе в личных сообщениях в фейсбуке те снимки, распространение которых он хочет пресечь. Одновременно комиссар уведомляет соцсеть о заявке от пользователя.
«Когда фейсбук получит уведомление, аналитик по операциям сообщества возьмет фотографию и захэширует ее, чтобы в будущем ее нельзя было опубликовать [на сайте]», — говорилось в заметке The Guardian.
На следующий день после публикации в британской газете об одной немаловажной детали сотрудничества Facebook и Австралии рассказало издание Daily Beast. Оказывается, фото, которые загрузит пользователь, будут изучать модераторы фейсбука. По словам представителя фейсбука, изображения будут доступны «небольшой группе» сотрудников компании.
Они увидят только отретушированную, замазанную версию изображения, однако один сотрудник фейсбука будет изучать оригинальные снимки. Это нужно, чтобы убедиться, что на фото, распространение которых хочет запретить пользователь, действительно изображено обнаженное тело.
После того как модераторы убедятся в этом, они создадут их цифровые отпечатки. Руководитель службы безопасности Facebook Алекс Стэмос подчеркнул, что называть этот процесс хэшированием неправильно: алгоритмы, которые использует компания, способны находить копии изображений даже после несложных трансформаций, например, после изменения размера (с хэшами такое не сделать).
Пользователи соцсетей отнеслись к предложенному фейсбуком механизму борьбы с «порноместью» с подозрением: они полагают, что человеческий фактор рано или поздно подведет компанию, а также удивлялись, что соцсеть в таком деликатном деле использует живых людей, а не алгоритмы.
***
Eva @evacide
Facebook asks people to send them their nudes so they can prevent them from being posted as revenge porn. Nothing will go wrong with this plan.
«Фейсбук просит людей отправлять ему свои интимные фото, чтобы предотвратить их публикацию в виде „порномести“. Что же тут может пойти не так?»
***
CAT FREAK malscrung @malscrung
some men ask for nudes - truly great men build a social media empire then demand nudes
«Некоторые мужчины просят прислать им интимные фото. По-настоящему великие строят интернет-империю, а затем требуют интимные фото»
***
— Jon Gold 🤖👽☮️ (@Jongold)
🤦♂️ Today in "this must be a simulation because I can't believe people thought this is a good idea" - Facebook asking people for nudes to stop other people uploading them
«Сегодня в рубрике „Должно быть, мы живем в симуляции, потому что я не могу поверить, что люди сочли это хорошей идеей“: фейсбук просит людей присылать интимные фото, чтобы другие не загружали их»
***
KT NELSON @KrangTNelson
FACEBOOK (for literally anything other than your nudes): we love algorithms. the algorithm is king
FACEBOOK (for your nudes): yeah we’re gonna need Gary to look at these
«Фейсбук (буквально для всего, кроме интимных фото): „Мы любим алгоритмы. Алгоритм — король всего“.
"Фейсбук (для ваших интимных фото): надо, чтобы Гари взглянул на это»
Daily Beast отмечает, что модераторы в соцсети и сейчас занимаются изучением порноматериалов — специальные сотрудники проверяют жалобы на «порноместь». Полагаться только на алгоритмы здесь опасно, так как их можно обмануть и использовать для цензуры: достаточно под видом интимного фото загрузить в соцсеть картинку, распространение которой хочется пресечь.
Даже PhotoDNA — системе, которая позволяет автоматически находить и удалять детское порно (и которую используют многие технологические компании), — необходимо участие человека. Все материалы, включенные в базу системы, были когда-то отсмотрены людьми; отличие от предложения фейсбука только в том, что в PhotoDNA фотографии обычно попадают с компьютеров преступников, а в соцсеть предлагается загружать их самостоятельно.
Facebook утверждает, что к проекту по борьбе с «порноместью» могут присоединиться США, Великобритания и Канада.
https://meduza.io/shapito/2017/11/09/feysbuk-prosit-polzovat...
