Новый искусственный интеллект может по фотографии определить вашу ориентацию с точностью до 91%
Друзья, недавно мы выкладывали подборку «Сегодня я узнал», где путём голосования был выбран пост для перевода про ИИ определяющий ориентацию людей по фото. Приятного чтения:
Искусственный интеллект может с высокой точностью определить ориентацию человека по фотографии лица. В новом исследовании говорится, что ИИ значительно лучше человека определяет ориентацию.
Иллюстрация технологии анализа лица, аналогичная использованной в эксперименте.
Исследование Стэнфордского университета показало, что компьютерный алгоритм может правильно различать геев и гетеросексуалов в 81% случаев для мужчин и 74% для женщин. Данное исследование подняло вопросы о биологическом происхождении сексуальной ориентации, этичности технологии распознавания лиц, а также вероятности того, что такое ПО может нарушить конфиденциальность или использоваться в целях борьбы с ЛГБТ.
В исследовании, которое появилось в Journal of Personality and Social Psychology и впервые упоминалось в Economist, использовалась выборка из более чем 35 000 изображений лиц, которые мужчины и женщины публично разместили на американском сайте знакомств. Исследователи, Михал Косински и Илун Ван, извлекли особые черты из изображений с помощью «глубоких нейронных сетей», то есть сложной математической системы, которая учится анализировать визуальные эффекты на основе больших данных.
Исследование показало, что мужчины и женщины нетрадиционной ориентации, как правило, имеют «гендерно-атипичные» черты лица, выражения и «стили ухода», что по сути означает, что геи выглядят более женственными, и наоборот. Данные также выявили определенные тенденции, в том числе то, что у геев более узкие челюсти, более длинные носы и более широкий лоб, чем у гетеросексуалов, а также - что у лесбиянок крупнее челюсти и меньше лоб по сравнению с гетеросексуальными женщинами.
Обычным людям определение ориентации давалось намного сложнее - только в 61% случаев для мужчин и 54% для женщин. Когда программа проанализировала по 5 фото каждого человека, процент успеха оказался еще выше - в 91% случаев с мужчинами и 83% с женщинами. В широком смысле это означает, что «в лицах содержится гораздо больше информации о сексуальной ориентации, чем может воспринимать и интерпретировать человеческий мозг», - пишут авторы.
В документе высказывается предположение, что полученные данные «убедительно подтверждают» теорию о том, что сексуальная ориентация связана с воздействием определенных гормонов еще до рождения, то есть, что люди рождаются с нетрадиционной ориентацией, а стать гомосексуалом невозможно. Более низкий показатель успешности ИИ для женщин также может подтвердить мнение о том, что женская сексуальная ориентация гораздо более изменчива.
Хотя результаты исследования несколько ограничены – в нем не рассматривались представители не-европеоидной расы, трансгендеры и бисексуалы – безбрежные последствия для ИИ настораживают. Авторы исследования считают, что с учетом миллиардов изображений лиц, хранящихся в социальных сетях и в государственных базах данных, эти данные могут использоваться для определения сексуальной ориентации людей без их согласия.
Легко представить, что супруги используют эту технологию для проверки своих партнеров, которых они подозревают, или что подростки используют алгоритм на себе или своих сверстниках. Пугает также то, что правительства, которые продолжают преследовать ЛГБТ в судебном порядке, гипотетически могут использовать эту технологию для выявления людей с нетрадиционной ориентацией в масштабе всей страны. Создание и публикация такого ПО вызывает споры. Также возникают опасения, что появятся и вредоносные приложения.
Но авторы утверждают, что технология уже существует, а ее возможности важно правильно раскрыть, чтобы правительства и компании могли проактивно учитывать риски конфиденциальности и оценивать необходимость мер безопасности и регулирования.
«Конечно, опасения не могут не возникать. Как и любой новый инструмент, если он попадет не в те руки, его можно использовать в преступных целях», - сказал Ник Рул, доцент кафедры психологии Университета Торонто, опубликовавший исследование по науке о гей-радаре. «Классификация людей по внешним признакам с последующей идентификацией и возможными негативными последствиями для этих людей- это преступление».
Рул утверждает, что разработка и тестирование этой технологии все еще стоят на первом месте: «Авторы исследования сделали очень смелое заявление о том, насколько значимой может стать эта технология. Теперь мы знаем, что нам нужна защита».
Косински не сразу прокомментировал исследование, но после публикации этой статьи в пятницу он рассказал Guardian об этических вопросах исследования и его последствиях для прав ЛГБТ. Профессор известен своей совместной работой с Кембриджским университетом по психометрическому профилированию, включая использование данных Facebook для того, чтобы сделать определенные умозаключения о личности. Кампания Дональда Трампа и сторонники Брексита использовали аналогичные инструменты для таргетирования избирателей, что вызвало обеспокоенность по поводу широкого использования личных данных на выборах.
В Стэнфордском исследовании авторы также отметили, что ИИ можно использовать для изучения связей между чертами лица и рядом других явлений, таких как политические взгляды, психологические состояния или личность.
Данный тип исследования также вызывает опасения в связи с возможными сценариями развития ситуации, которые напоминают научно-фантастический фильм «Особое мнение», в котором человека могут арестовать исключительно на основании предсказания того, что он совершит преступление.
«ИИ может рассказать вам всё, что угодно, о любом человеке, о котором достаточно данных», - сказал Брайан Бракен, генеральный директор Kairos, компании, занимающейся распознаванием лиц. «Вопрос заключается в том, хотим ли мы это знать?»
По словам Бракина, данные Стэнфордского университета о сексуальной ориентации «поразительно верны» и необходимо уделять больше внимания конфиденциальности и инструментам для предотвращения злоупотребления машинным обучением, поскольку оно становится все более распространенным и продвинутым.
Рул высказал предположение о том, что ИИ может использоваться для активной дискриминации людей на базе машинной интерпретации их лиц: «Мы должны быть коллективно обеспокоены».
***
Больше переводов в нашем telegram-канале «Офигенно News».
Перевод telegram - канал: https://t.me/ofigenno
Продолжение следует...
На машине по Алтаю
Всё просто. Собралась группа энтузиастов, которым тесно в четырёх стенах - сели в машину и поехали на Алтай.
На всякий случай прихватили фотокамеры. Там же Катунь.
Группа наша оказалась не очень спортивной, мы даже и от машины далеко не отходили.
Катунь вечером:
Очень уж мне понравились эти снежные бугры
Утро на Семинском перевале
Розовый свет от восходящего солнца длился всего с минуту.
Трасса в отличном состоянии.
Получилось путешествие для ленивых. Мы отходили от машины на 100 метров - и этого оказывалось уже достаточным!
Для горожан это экзотика
Конечно, нас порадовали лебеди
Все фотографы прихватили с собой длиннофокусные объективы. Правильно сделали. А у меня лишь ширик и штатный.
Все фотографии лебедей сделаны штатным объективом, причём, довольно старым и хреноватым.
Зато лебеди позировали охотно!
Все остались довольны путешествием. Пусть даже мы на этот раз не уходили далеко, не поднимались высоко. В любом случае, Алтай - это круто!
Как вам такой подъезд в Тарусе?!
В Тарусе куда ни глянь, везде творческие люди. Город любили Николай Заболоцкий, Константин Паустовской и, конечно, Марина Цветаева. В 2017 году портрет поэтессы и одно из её произведений появилось на подъезде дома . Его написала местная художница Елена Артамонова. В подъезде 5 этажей и каждый — особенный.