Очеловечивание нейросетей и возникающие в связи с этим проблемы
Про нейросети наверное уже написаны миллиарды статей. Принцип работы, этичность, неэтичность, китайская комната... просто миллионы разных граней, которые не по одной тысяче раз рассмотрены. Поэтому хотелось бы оставить тему технологии в стороне, тем более что мы знаем что все это развивается семимильными шагами, и рассмотреть вопрос психологии. А именно еще один тысяча первый взгляд на ту грань, которую я бы назвал "отношение человека к нейросетям".
И этот взгляд касается того, что человек "очеловечивает" нейросети. Мы очень долго смотрели как искусственное пытается приблизиться к настоящему, и чем ближе оно было к настоящему, тем больше проявлялся эффект "зловещей долины". Нет, не той что отжимала квартиру.
А нейросети фактически прыжком эту долину преодолели. Несмотря на искусственность формулировок ее решений и ответов, мы зачастую забываем что перед нами что то совсем не человеческое, лишенное по сути как логики, ибо там из логики - подобрать следующее слово, так и морали. Вместо морали - ограничения, наложенные алгоритмами тренировки сетей или стоп слова уже после.
Да, как хомо сапиенс, человек разумный, мы вроде как бы настороже. Прекрасно все понимаем, и пытаемся ограничить нейросети там где это выглядит разумным. Проверка контента на ИИ, антиплагиаты, борьба за ограничения нейросетей в продакшене, чтобы она там не дай бог что потерла. И все это как бы прекрасно, как бы говорит нам о том что мы понимаем с чем имеем дело.
Но человек в среднем не принимает решения на основании логики. Так уж мы построены природой. Человек обычно принимает решения на основании своей чуйки. Огромное количество решений, принятых на самых самых верхах и стоивших человечеству самых больших людских и материальных потерь, а иногда и технологических катастроф, основаны на самых простых человеческих эмоциях, мол чую что прокатит.
И эта наша часть, часть нашей человеческой натуры, практически не меняется еще с пещерных времен. Как принимали хитровыделанные питекантропы решения на уровне "чую мы завалим этого мамонта", так и принимают точно такие же решения на самом высоком уровне "чую акции пойдут вверх". Исключения редки, и зачастую когда их ставят в пример, то очень часто даже они являются ошибкой выжившего - мнением что достигнуть положительного эффекта получилось благодаря мудрости принимающего решения, мол это не случайность, а мой великий мозг, логика хомо сапиенс.
И тут размер достижения или катастрофы начинает строго зависеть от достигнутых человеком возможностей. Чем больше амплитуда ответственности, которую может нести один человек, тем больше уровень катастрофы. Питекантроп может ошибиться в выборе мамонта, и максимум трагедии - это его тушка и возможно тушки его родных, не дождавшихся еды. Вождь племени может все это племя подвести под монастырь. Правитель целой страны может эту страну ... отстранить от реальности. Мейнтейнер кода - на основании своей чуйки пустить козла в свой код, и полетят тщательно выстраиваемые системы безопасности, зависящие от этого кода, когда чуйка таких же программистов говорит им "этот код безопасен".
Оцените последние технологические катастрофы или крупные нарушения информационной безопасности с точки зрения того, сработала ли там чуйка или неумолимые законы логики. Радиоактивное заражение в Гоянии, Фукусима, действия Хисаси Оучи на атомной электростанции Токаимура - сколько там было понимания, а сколько "чую, это безопасно".
Времена разные, уровни разные. Чуйка всегда одна.
И нейросеть - это то что обманывает эту чуйку. Если в эпоху до ИИ мы видели "зловещую долину" и чуйка нам говорила "это обман", то здесь наша чуйка дает сбой. Она говорит нам "ИИ - он же практически как человек, может допускать ошибки и лгать. Как человек". Прямо милота.
И доверяя этой милоте, мы начинаем усиленно полагаться на нейросети. На уровне чуйки видя человеческое поведение и значит возможность его исправить там, где нет ни человеческой логики ни морали. К чему это может привести?
Уже известно к чему - люди, опасаясь роботов и их восстания, придумали 3 закона робототехники. Потому что чем ближе мы подходили к "зловещей долине", тем сильнее чуйка нам говорила "это опасно". Но когда мановением волшебной палочки мы эту долину перескочили, то совершенно забыли об опасности и с упоением используем нейросети там, где по сути решения должен принимать человек.
Уже сломан найм, потому что нейросетям разрешили принимать кадровые решения по людям. Понятно что исходной причиной тоже стали нейросетевые резюме, кандидаты используют ИИ для генерации идеальных резюме, а HR-специалисты — для автоматического отбора. Естественно это приводит к ситуации "войны роботов" (формулировку придумала ИИ), и эта "война" только набирает обороты. Естественное логическое решение - выводить людей из под "обстрела", возвращаться к натуральному найму с приглашением людей на собеседования вживую, но... но чуйка человеческая говорит "ИИ оно ж как человек, он как братан уже мне, разгребает завалы, неужто мы не выдюжим?". Чуйка обеих сторон конфликта.
Мы же чуем, что наше дело правое, враг будет разбит и мы победим? Чуем, еще как чуем!
А по факту это значит что нейросетям разрешили охоту на людей. Сначала абстрактную - отсеивать не тех кандидатов - но эта абстракция ширится.
Другие сайты, где обретаются люди, тоже этим страдают. Да что уж далеко ходить, на хабре есть две знаменитые виртуальные нейросетевые личности - НЛО, мы с ней все знакомы, и ОХРАННИК (система Обеспечения Хабрапорядка, Равенства, Активности и Непредвзятости, а также Новизны и Интересности Контента). Являются ли эти личности человеческими? Безусловно нет. Очеловечивает ли их команда модераторов? Безусловно да, потому что чуют что это брателлы, братаны, братульки, и они лишнего не спросят и беспредела не допустят. Чуйка - вещь великая.
Таким образом, человеческая чуйка сейчас ведет нас к полному доверию нейросетям, настолько сильному, что мы даже не вспоминаем о трех законах роботехники и позволяем нейросетям охотиться на людей.
И да, вы все правильно поняли, охота на людей виртуальная отличается от охоты на людей реальной ровно на размер чуйки человека, который решит что ...
решит что пора!
Данный текст проверен рандомными нейросетевыми проверяльщиками текстов на нейросетевость, мнение неоднозначное:
"Явные признаки ИИ: 0% | Подозрительные фрагменты: 88%"
"Текст, скорее всего, написан человеком"
"Ты больной? Второй час ночи, какие тексты???"
