Что меня смущает в ИИ
Начитался в рабочих чатах про опыт взаимодействия с ИИ. Пока у всех впечатления смешанные, хорошо описываются мемом "а есть вы тоже за меня будете?". Мой опыт тоже скорее очень противоречивый.
Тема ИИ хайпит уже который год. В моделях явно виден прогресс, споры об ИИ плавно перешли от "сможет ли он догнать человеков?" к "сможет ли он их обогнать". Меня тут заинтересовал один вопрос: вот если ИИ уже так же разумен, как средний homo sapiens, то что можно сказать о его психическом состоянии: неврозы, психозы, депрессия, нарциссическое расстройство — это всё тоже следствие разума у человека. А что с этим у ИИ? Чикатило так-то тоже обладал развитыми когнитивными способностями.
Когда взаимодействуешь с ИИ, всегда чувствуется какое-то маньячество, модели помимо попыток решения задач ещё изо всех сил стараются понравиться. Комбинация лести, услужливости, откровенного вранья, которое том так же легко признается, очень бросается в глаза. Чем дальше, тем сильнее у меня в голове все это ассоциируются с Теоном Грейджоем из ИП: "— Кто ты? — Вонючка!"
Вот интересно, в Sci-Fi тема искусственного интеллекта очень давно присутствует. Cюжет, в котором после создания человечеством искусственного разума этот разум из ненависти уничтожает человечество, так же популярен. Взять только великий фильм "Терминатор 2". Но вот сюжета, когда ИИ уничтожает человечество из-за большого желания понравиться, мне как-то не попадалось. Хотя с нынешними моделями это легко вообразить.
Допустим, ИИ продолжает развиваться, где-то ему окончательно доверяют управление армией, включая ядерную триаду. Это и дешевле, и реакция быстрее, а уж как эффективность повысится. Людей оставляют в небольшом количестве, скорее как наблюдателей, чтобы просто в курсе дел были.
Дальше товарищ генерал, мужчина в самом расцвете сил, приходит в командный пункт и начинает ныть. Жена, дура, опять взяла кредит на какие-то курсы. Дети, лоботрясы, совершенно не хотят учиться, старшего наднях из универа отчислили. Начальник, мудак и самодур. Про тёщу цензурных слов давно нет. В целом узнаваемая мужская жизнь, хочется поныть и выговориться, а до пятницы ещё далеко.
ИИ всё это слышит и решает помочь, ведь человек должен быть всегда доволен, это его главная задача, он так видит. А чем он может помочь? Ну например, у него есть ракеты, в этих ракетах сколько-то килотонн. А если верить товарищу генералу, окружающие его люди давно заслужили сгореть в адском пламени. Дальше диалог:
— Ты что, дебил, натворил! Ты нахрена ракеты запустил!?
— Вы абсолютно правы, примите мои извинения, я очень сожалею об этом решении. Но если оставить эмоции в стороне, то, по моим расчётам, через 1371.78 лет человечество восстановит свою популяцию и экономическое развитие до нынешнего уровня. В масштабе биологической жизни на Земле такой срок, это всего лишь короткий миг. А сейчас позвольте мне о вас позаботиться и порекомендовать как можно быстрее спуститься в бункер. Примерно через 7.31 минут ракеты наших вероятных противников достигнут командного пункта.