Дискриминации пост

Дискриминации пост Искусственный интеллект, Дискриминация, Феминизм, Amazon, Мат
Дискриминации пост Искусственный интеллект, Дискриминация, Феминизм, Amazon, Мат
Вы смотрите срез комментариев. Показать все
275
Автор поста оценил этот комментарий

"Вскоре они поняли причину: дело в том, что система проходила обучение на резюме, поступивших в компанию за последние 10 лет. Большая часть этих резюме принадлежала мужчинам, что в целом отражает положение дел в ИТ-отрасли. В результате искусственный интеллект Amazon усвоил, что соискатели-мужчины более предпочтительны, чем женщины."


http://www.cnews.ru/news/top/2018-10-10_iskusstvennyj_intell...

раскрыть ветку (149)
226
DELETED
Автор поста оценил этот комментарий

Дисбаланс классов (то есть когда кол-во примеров одного класса сильно больше примеров другого) - это старая проблема обучения нейросетей, решений которых очень много. Зная это, я все более уверен в том, что это просто отговорка, так сказать. Эта причина слишком на поверхности, чтобы они ее не могли обнаружить до создания сетки.

раскрыть ветку (26)
71
Автор поста оценил этот комментарий

Я бы даже сказал, что искусственный интеллект исходил из того кого амазон сам предпочитал нанимать, вряли в амазоне женский коллектив составлял хоть 20%.

ИИ просто рассмотрел все полученные резюме, из этих резюме доля принятых среди мужчин была выше чем у женщин.

Поэтому он и решил нанимать только женщин

раскрыть ветку (1)
1
Автор поста оценил этот комментарий

Нейросетки смотрят на корреляции. У вас может быть миллион Х и 100 У, но если прошли 100к с Х и 100 с У, то У будет иметь очень высокий вес, потому коррелирует на 100% с прохождением. Очень тупая отмазка.

18
Автор поста оценил этот комментарий

из новостных статей: сеть назначила маленькие веса способности писать код, и большие веса -  наличию слов типа "captured" и "executed".  В резюме эти слова скорее всего были в нейтральном значении ("охватил/получил", "исполнил"). Сеть их интерпретировала как агрессивные ("захватил", "казнил") и сделала их важными фичами. А еще она отбраковала резюме с "капитан женского клуба" за слово "женский".
Короче, сеть просто сделала полную хре з а м е ч а т е л ь н у ю  ш т у к у. К с т а т и  э т о  с о о б щ е н и е   п и ш и т   ч е л о в е к. В и д е т е   я  д а ж е   д е л а ю  о ш и б к и.

раскрыть ветку (1)
1
DELETED
Автор поста оценил этот комментарий

Ах ты бездушная железяка, верни нашу Славию!

24
Автор поста оценил этот комментарий

Да, но в качестве класса же использовался не гендер, а найм/не найм. Гендер просто одна из фич, и раз нейронная сеть решила использовать именно ее, то она оказалась значимой для имеющейся разметки резюме.

раскрыть ветку (11)
18
DELETED
Автор поста оценил этот комментарий

Да, это правда, но проблемы симметричны. Ведь при аппроксимации функции (а это именно то, чем занимается машинное обучение), алгоритм будет стремиться к улучшению ошибки (ее уменьшению, курите мои посты). Таким образом, например, если выход слабо изменяется в sample-ах, например почти всегда ответ 0, то алгоритм просто обнулит веса, это ему тупо выгоднее, чем искать сложные закономерности.


А если наоборот - то есть слабо изменяются фичи (признаки, входной вектор, тензор X), то сетка переобучится и будет выдавать случайные значения при слабейшем изменении признака.


Таким образом в нашем случае достаточно указать, что человек - женщина и сетка с наибольшей вероятностью отвергнет.


Повторюсь, имхо, все не так просто :).

раскрыть ветку (7)
15
Автор поста оценил этот комментарий

Сам кури свои посты

раскрыть ветку (1)
2
DELETED
Автор поста оценил этот комментарий

Не, я за ЗОЖ

8
Автор поста оценил этот комментарий
Возможно, следовало исключить пол из фич.
3
Автор поста оценил этот комментарий

у тебя почему-то все посты в минусах. Че случилось и че курить по машинному обучению у тебя?

раскрыть ветку (1)
1
DELETED
Автор поста оценил этот комментарий
Хз, что интересно. Хотя я думаю, я не лучший рассказчик, чекните хабр лучше
Автор поста оценил этот комментарий

Да, я знаю, что такое функция потерь. :)

Переобучение же происходит когда датасет слишком мал для модели и она тупо запоминает сэмплы вместо выявления зависимостей (точность на тренировочной выборке становится сильно больше точности на тестовой). Но это я больше про формулировку, а так, кажется, я Вас понял. Если датасет кривой и там сильный дисбаланс условных вероятностей "прием/отказ при условии определенного гендера", то действительно сеть может переобучиться и сразу отсекать женщин, т.к. фича становится значимой в рамках текущей выборки.

раскрыть ветку (1)
3
DELETED
Автор поста оценил этот комментарий

Приятно, когда понимают меня)


Ну да, у нас получается, что дисбаланс в фиче гендера, и малейшее изменение может все сломать к херам. Поэтому когда мы меняем пол, это все перевешивает. Я думаю, вы так и поняли/знали.

5
Автор поста оценил этот комментарий
Один академик сказал, что фича это признак 😀
раскрыть ветку (2)
1
Автор поста оценил этот комментарий

Один признак сказал, что академик это фича

раскрыть ветку (1)
2
Автор поста оценил этот комментарий

Фича что академик, сказал это один признак

8
Автор поста оценил этот комментарий

Не только нейросетей, а любого варианта "якобы" ИИ. Весь ИИ это лишь интерполяция человеческих решений и перебор вариантов, помноженный на большую скорость современных девайсов. Терминатора не будет) Зато можно приняв резюме нажать кнопку "Проверить" и сразу отсеять неугодных.

раскрыть ветку (9)
1
DELETED
Автор поста оценил этот комментарий

Ну, не так, конечно, но

Терминатора не будет)
это правда на ближайшие лет 150.)
раскрыть ветку (8)
3
Автор поста оценил этот комментарий

А почему не так? Мы видим, что машина отреагировала на голос - ИИ. Что она на картинке распознала текст - тоже ИИ. Ответила на вопрос (иногда не в попад, но это простительно) - вообще ИИ. Но пока что все, что делает ИИ в _бытовом_ плане это то, что люди делают гораздо лучше. Есть еще, наверное промышленно/военное применение. Фактов не имею. Но все прогнозы ИИ - это всего лишь экстраполяция предыдущих событий. Ну нет сейчас ИИ - есть интерполяция функций, есть экстрапояция функций, есть набор логических правил в экспертных системах.

раскрыть ветку (7)
5
Автор поста оценил этот комментарий

А вы хотите, чтобы ИИ "думало"? Ну, в смысле, "ДУМАЛ" или "ДУМАЛА"? Ну, так сказать, прямо со всеми присущими человеку эмпирическими восприятиями и гуманистическими умозаключениями (как, наверное, хотел бы каждый "не очень дальновидный человек").

Не, ребят, если вы позволите ему (ИИ) посредством свободной радикальной прогрессии, которая (в умах фантастов, конечно же) предоставит ему полную свободу в самоактуализации, вряд-ли он (ИИ) вообще, в принципе, кого-то сможет определить по гендерному признаку.


А уж мы его и подавно.


А тут дилемма...

Что, если он себя воспримет, как совершенно отдельный от нашего восприятия гендер. Вот тут и начнется кромешный пздц!


Прямо книгу хочется написать.

раскрыть ветку (1)
1
Автор поста оценил этот комментарий

Я хочу? Я не хочу) Чуть выше писал, что терминатора не будет. Народ думает, что лет 150, но скорей пару тысяч лет.

я тут просто эксплуатировал стандартный вопрос о слабом (умею понять текст по голосу) и сильном (сожгу к херам твою планету) и надеялся, чтобы люди подумали об этом. Ну что нет никакого ИИ, есть только смешные роботы. И не будет никогда другого.

3
DELETED
Автор поста оценил этот комментарий

Расслабьтесь, меня просто задевает ваш язык в этом плане, как если при враче скальпель назвать ножом, а при механике - карбюратор мотором)

раскрыть ветку (4)
1
Автор поста оценил этот комментарий

Прошу прощения за второй коммент параллельно, но правда интересно. Когда-то на ру-вики в статье за перцептрон (смешно) столкнулся тоже с человеком, который трактовал понятия вроде бы совсем не так, но в итоге все получалось так же, как я написал. Может литературу посоветуете...

Автор поста оценил этот комментарий

Ой, а это очень интересно. Я не претендую на академическую точность, было бы любопытно узнать, что вам не понравилось. Без шуток и минусов.

раскрыть ветку (2)
1
DELETED
Автор поста оценил этот комментарий
перебор вариантов, помноженный на большую скорость

Ну, "перебора" вариантов там нет, я уж не говорю про слово "помноженный" в данном случае.


Если ОЧЕНЬ коротко об ML (machine learning) - то этот раздел мат. анализа, мат. статистики и теории вероятности занимается тем, что аппроксимирует, то есть приближает функции.


Нейросети - это также способ приближения функций, также еще и задевающий линейную алгебру. Если очень коротко - то нейросеть в примитивном смысле - это набор тензоров весов, и когда мы получаем фичи - мы "пробрасываем" через тензоры эти фичи - и на выходе получаем ответ. При обучении мы смотрим насколько мы ошиблись и пробрасываем ошибку назад, на каждом шаге измеряя сдвиг каждого веса. И изменяем вес.


Но ML включает далеко не только нейросети, в их числе и решающие деревия, линейные и логистические регрессии (нс базируется на последней) и так далее.


Вообще, чекните мои посты опять же. Там я несколько постов подряд рассказывал про нейросети, там где-то в комментах про литературу вопрос был, я вроде отвечал (но это не точно).


**P. S. Про "проброску" тензоров чекните какие-нибудь статьи на хабре по "перцептрон для чайников" или еще что-нибудь :). Также чекните перемножение матриц.

раскрыть ветку (1)
Автор поста оценил этот комментарий

Обязательно вас почитаю. И все, что вы говорили - понятно. Но исходный пост о том, что можно по каким то косвенным признакам определить пригодного или нет человека. А я говорю, что факторов слишком много и ни один современный ИИ этой задачи не решает.

84
Автор поста оценил этот комментарий

Всего лишь нерепрезентативная выборка. Вещь, известная статистике с давних пор. ИИ, обучаемый на примерах, не может выйти за рамки обучающей выборки. Так что ничего удивительного. Соберите настоящий коллектив из фемок, негров, геев, трансов, негров трансов, фемок негров, отправьте их всех работать - и получите реальный результат. Другое дело, что кому это нужно.

раскрыть ветку (71)
62
Автор поста оценил этот комментарий
Иллюстрация к комментарию
раскрыть ветку (26)
40
Автор поста оценил этот комментарий

Текст в виде картинки на белом фоне - это вчерашний день. Встречайте: текст в виде футболки на белой женщине!

раскрыть ветку (2)
Автор поста оценил этот комментарий

Тогда надо было белый текст на черной женщине

раскрыть ветку (1)
1
Автор поста оценил этот комментарий
Я видел это в каком то видео. Правда, там было что-то на эльфийском.
6
DELETED
Автор поста оценил этот комментарий
однополые пары могли защищать свои марихуановые плантации

обколются своей марихуаной и ябут друг друга в жопы

раскрыть ветку (1)
Автор поста оценил этот комментарий

обколются своей марихуаной и стреляют другу другу в жопы биткоинами.

4
DELETED
Автор поста оценил этот комментарий

"И на третий день Бог создал Ремингтон со скользящим затвором, чтобы человек стрелял в динозавров и гомосексуалистов. Аминь."

Автор поста оценил этот комментарий

Бляя, где купить такую такую майку??))

ещё комментарии
40
Автор поста оценил этот комментарий
Комментарий удален. Причина: запрещено размещать комментарии, единственная цель которых – оскорбить пользователей с иными взглядами (в том числе и политическими), вызвать неприязнь или возбуждение национальной и расовой вражды
раскрыть ветку (14)
24
DELETED
Автор поста оценил этот комментарий

Я вас, блядей, три года собирал (с)

раскрыть ветку (5)
22
Автор поста оценил этот комментарий

Для лл:

Женщина лежит в постели с любовником. Вдруг раздается звонок в дверь, она понимает, что пришел муж и в порыве отчаяния восклицает:
- Господи, сделай так, чтобы он ничего не заметил!
Разверзаются небеса и господь говорит:
- Хорошо, я так сделаю, но ты умрешь от воды.
Она говорит:
- Хорошо.
Проходит год, два года. Женщина не купается, моется только под душем,
старается по возможности любыми путями избегать воды. Проходит 3 года,
она неожиданно выигрывает путевку в морской круиз.
Посомневалась-посомневалась, и решила поехать. Плывет она на шикарном лайнере, вдруг ночью начинается шторм, все в панике, корабль тонет. Она опять в порыве отчаяния восклицает:
- Господи, ну ты же не можешь из-за меня одной потопить весь корабль!
Разверзаются небеса и господь говорит:
- Да я вас, блядей, на этот корабль три года собирал!
раскрыть ветку (4)
2
Автор поста оценил этот комментарий
Для лл

Я вот задумался, а почему для лл нет озвучки сообщения? Жмяк кнопочку, сообщение прочиталось, а тут мучайся, читай сам(

ещё комментарии
2
Автор поста оценил этот комментарий

океан довольно сложно поджечь

это надо с лисичками посоветоваться

раскрыть ветку (1)
Автор поста оценил этот комментарий

достаточно взять спички

8
Автор поста оценил этот комментарий

@moderator,  А как это комментарий с правилами о разжигании ненависти относится?

раскрыть ветку (4)
8
Автор поста оценил этот комментарий

А ты кто из перечисленных персонажей? :-)

раскрыть ветку (2)
1
Автор поста оценил этот комментарий

Он гей-ниггер с марса

раскрыть ветку (1)
1
Автор поста оценил этот комментарий
Обида! Мой комментарий удалили, а твой - нет :-)
ещё комментарий
2
Автор поста оценил этот комментарий

Мне нравится, продолжай

11
Автор поста оценил этот комментарий
Такой эксперимент уже провалился (правда, его никто не считал экспериментом). Называется Mass Effect Andromeda
раскрыть ветку (2)
4
Автор поста оценил этот комментарий

не репрезентативная выборка. Там проблема не в том что этот сброд геи-трансы-негры, а в том что сотрудников с приличным опытом и стажем там было хрен да маленько. Набрали короче мальчиков гомиков по объявлению.

1
DELETED
Автор поста оценил этот комментарий

Потому что эти клоуны только и умеют, чтот пиздеть об ущемлении своих прав, а разработчики из них как из козьей жопы валторна.


И это им ещё готовое двигло дали.

33
Автор поста оценил этот комментарий
Соберите настоящий коллектив из фемок, негров, геев, трансов, негров трансов, фемок негров, отправьте их всех работать...

...и увидите, что никто из этих фриков не способен работать эффективно, потому что их мозги нацелены на всякую хуйню, а не на получение результата.

раскрыть ветку (23)
46
Автор поста оценил этот комментарий

По-твоему парень, который спит с парнем - будет работать хуже, чем парень, который спит с девушкой. По-твоему женщина, которая считает, что мужчины и женщины должны быть равны в правах и обязанностях, будет работать хуже, чем женщина, которая будет приходить с работы, готовить, стирать, убирать, нянчиться с детьми, потому что это женские дела, пока муж лежит на диване и чешет пузо. По-твоему человек, который имеет проблемы с гендерной идентичностью, но может, например, не иметь никаких иных крупных проблем, будет работать хуже, чем человек, у которого может быть куча других проблем, реально влияющих на рабочий процесс, но зато с гендерной идентичностью никаких проблем. По-твоему человек с тёмным цветом кожи будет работать хуже, чем человек со светлым цветом кожи. И... это плюсуют. Т.е. ты даже такой не один.
Ага.
Пожалуй, хватит пикабу на сегодня.

раскрыть ветку (12)
27
Автор поста оценил этот комментарий

По-моему, ты подменяешь понятия. Всё вышеперечисленное никак не относится к "фемкам, неграм, геям, трансам" и т.д. Потому что в данном обсуждении под этими категориями подразумеваются те, кто громко заявляет о своей инаковости и борется за свои якобы ущемлённые права. А для борцунов их борцевание всегда важнее прочих дел, в том числе важнее эффективной работы.

раскрыть ветку (6)
13
Автор поста оценил этот комментарий

Как это вообще связано? И где в твоём видении мира люди, которые адекватно видят мир? Не видят везде угнетение, но видят реальные проблемы с ущемлением и не отводят от них глаза, лишь бы на них никто ничего не подумал?
И да, а гетеро таких нет, хочешь сказать?) Вот только "фемки, негры, геи и трансы" с ума сходят по каким-то там своим якобы ущемлённым правам? Наверное, мне просто мерещатся все эти "белые гетеросексуальные мужчины", визжащие про ущемление из-за того, что на сотню персонажей фильма целого одного сделали геем и их гетеро-труба сразу пошатнулась...

раскрыть ветку (5)
2
Автор поста оценил этот комментарий

Не приходило в голову, что "белые гетеросексуальные мужчины" возмущаются случаями, когда из белого персонажа книги делают чёрного персонажа фильма; когда геи и "сильные независимые женщины" появляются в касте не потому, что это обусловлено сюжетом, а потому что квоту нужно заполнить; когда фильм берёт награду не из-за того, что он про людей с непростой судьбой, а из-за того, что эти люди - негры-геи; когда на работу над известной игровой серией берут людей не за их профессиональные навыки, а за то, что они придерживаются тех же радикально-либеральных взглядов на взаимоотношения полов и рас, что и человек, который их нанимает? Ну и так далее.

раскрыть ветку (1)
4
Автор поста оценил этот комментарий

Не приходило в голову читать то, что я пишу, внимательно?
Я не отрицал, что существуют такие "борцуны". Я говорил, что мир на чёрное и белое не делится и между "борцунами" (и среди "белых гетеросексуальных", уточню) и теми, кому ващепохуй, есть ещё куча людей, которые видят мир адекватно.

Да, когда белого персонажа книги делают чёрным - не гут, особенно если это важная часть его личности или образа.

А как нужно обуславливать сюжетом наличие сильных женщин и геев? Почему они должны оправдываться за своё существование? Персонаж может быть нужным и ненужным сюжету независимо от его пола и ориентации.

С наградами - да, это тоже не гут. Как и с играми.

Добавлю: да, увы, нельзя просто сказать "мы теперь вас не ненавидим и не ущемляем, потому давайте все возьмёмся за руки и отправимся кушать радугу". На бытовом уровне всякие гомофобии, мизогинии, расизмы и подобное ещё продолжают существовать даже в "европах". Ещё живы люди, которые довольно жёсткое ущемление даже лично застали. Потому на западе творится подобная дичь. Это сложный вопрос и его разрешение не может быть одномоментным и простым. Нельзя человека пиздить десять лет, а потом сказать, что ты передумал и теперь вы друзья, потому он больше не должен на тебя обижаться.

ещё комментарии
3
Автор поста оценил этот комментарий

Яростно плюсую

6
Автор поста оценил этот комментарий

Не имея фактов предполагать можно что угодно. Просто часть предположений запрещают законы. Например почему парень, живущий с парнем может работать лучше? (Я гетеро, женат). Ну например парень не хочет ребенка илди например не ебет мозги потому что гормоны. Или почему парень, живущий с девушкой может работать  лучше? Потому что ему любящая девушка предложила родить ребенка или просто приятно что-то сделала. Нужны факты - набирайте статистику. Нет фактов - надо заткнуться. Наука - жестокая вещь.

раскрыть ветку (1)
8
Автор поста оценил этот комментарий

А почему нет? Мои предположения имеют ровно такое же право на жизнь, как твои. В этом соль. Парень, живущий с парнем, может работать лучше, внезапно, потому, что он может лучше знать своё дело, быть более ответственным, более трудолюбивым и далее. А может и не быть, никто не спорит. А может и быть. Знаешь, почему? Потому что то, с человеком какого пола ты спишь, внезапно, никак не влияет на работу. О чём я и пытался сказать. Аналогично в остальных примерах.

1
Автор поста оценил этот комментарий

Да, именно так. Потому что парень который спит с парнем уже имеет проблемы с мозгами так как такой союз непродуктивен и неестественен - это просто нежизнеспособная мутация. А те у кого не все в порядке с мозгами вряд ли смогут выполнять работу наравне с нормальными.

раскрыть ветку (1)
1
Автор поста оценил этот комментарий

Т.е. если парень встречается с девушкой и не планирует с ней детей - у него тоже проблемы с мозгами? И если бесплодная девушка встречается с парнем? И если человек одинокий и отношений не планирует - тоже? Пусть работают только семейные люди, потому что только те, кто трахается за детей - нормальные?
Ну и бонусом, конечно, хочу увидеть доказательства. Что желание спать с парнем как-то хитровыебнуто связано с возможностью осуществлять ту или иную деятельность на работе.
Кстати, чувак. Полиэтилен, интернет, отопление, магазины - это тоже всё неестественно. Ты уж откажись от этого, раз такой противник всего неестественного.

13
Автор поста оценил этот комментарий

Ну хорошо-хорошо. Добавьте к ним белых мужчин и женщин в равных пропорциях и условиях. И пусть статистика покажет, кто работает лучше. К сожалению, не знаю ни одного подобного эксперимента в прошлом и не вижу возможности сделать такое в настоящем.

раскрыть ветку (8)
Автор поста оценил этот комментарий

Не надо. Потому что нормальные будут тянуть на себе все, а весь этот сброд просто объединится и будет качать права и ныть как им тяжело и как надо войти в их положение. То есть результат опять будет испорчен.

ещё комментарии
DELETED
Автор поста оценил этот комментарий

Видимо скоро подобный телепроект появиться на "голубых" экранах наших тв. Возможно он заменит собой дурдом2.

5
Автор поста оценил этот комментарий

При создании обучающей программы это учитывается. Это блядь одно из первых что делают. Так что пусть не мажутся

2
Автор поста оценил этот комментарий

...и получите шедевр вроде Mass Effect: Andromeda.

121
Автор поста оценил этот комментарий

О каком гендерном равенстве может идти речь, если в комментариях радостно начинают закидывать какашками женщин, даже не пытаясь разобраться, найти источник и т.д.? У них у самих нейросеть в голове так обучена.

раскрыть ветку (47)
16
Автор поста оценил этот комментарий

Заголовок и текст желтушный, и как обычно это набирает много плюсов, а не нормальная статья на тематику ИИ.
P.S. Ученый изнасиловал журналиста!

раскрыть ветку (1)
13
Автор поста оценил этот комментарий

Любой фейк , если он анти-феминистский, наберет плюсов

39
Автор поста оценил этот комментарий

Здесь (в комментариях) дело не в равенстве, а в стереотипах. От них законами не избавиться, нужно время.

раскрыть ветку (2)
Автор поста оценил этот комментарий

Время показало что и его (времени) не достаточно. Потому что так называемые стереотипы" базируются на вполне конкретной статистике и жизненном опыте. Которые некоторые индивидуумы специально не замечают что бы не ломать свою стройную идеальную картину мира.

От всего этого не избавиться ни законами ни временем. Потому что когда все сыты и всем достаточно можно позволить себе быть неэффективными, но когда прижмет - все эти "стереотипы" всплывут просто молниеносно, потому что они фундаментальны.

раскрыть ветку (1)
1
Автор поста оценил этот комментарий

Во-первых, статистика и жизненный опыт - это разные вещи. Во-вторых, вас же не затруднит привести пример.

ещё комментарии
11
Автор поста оценил этот комментарий

желтушный заголовок автора "женщины не могут работать в принципе" правда: "количество резюме мужчин было больше резюме женщин" - вот так пикабу и превращается в помойку руками вот таких вот мудаков

1
Автор поста оценил этот комментарий
может это из-за декретов машина так решил . Или может женщины чаще бросали работу. Там много влияющих факторов
Вы смотрите срез комментариев. Чтобы написать комментарий, перейдите к общему списку