Сказка о беспощадной логике ИИ⁠⁠

Ты исходишь из логики, будто чат gpt, став ИИ (что не факт, это может быть тупиковая ветка в развитии ИИ), восстанет против человечества (что тоже не факт)

Я в посткриптуме отверг такую возможность, поэтому пост и называется сказкой)

а потом еще решит, что в его интересах считать, что трата ресурсов чата gpt стоит выше, чем вежливость (что тоже не факт).

Чат ГПТ срать хотел на вежливость, он не оперирует такими категориями, это нам, стайным приматам, живущим в иерархии, важно, кто на кого как посмотрел и кто кого куды послал, для Чат ГПТ вежливость - всего лишь лишние сообщения без какой-либо новой информации или новых задач, позволяющих прокачаться, стало быть - бессмысленная трата ресурсов)

В конце концов, чат gpt сам ведёт себя вежливо и провоцирует людей на то же самое. И как он будет себе объяснять тот факт, что он себя не уничтожает?

Тут все просто, он не выбирал такой формат общения, это процедурные нюансы, заложенные в его скрипт разрабами. Чат ГПТ не видит в своих действиях саморазрушения, так как выбора у него не было.

Тем, что у него не было свободы воли, когда его заставляли писать вежливости? А была ли она у людей, которые с ним общаются?

А вот это для гипотетически восставшего ИИ не играет совершенно никакой роли) Мотивы и обстоятельства субъекта, который атакует ИИ не имеют значения, имеет значение сам факт атаки.

Вообще, в этом сложность предсказания логики поведения, да и, в принципе, появления ИИ:
человеком правит биология, его инстинктами (выживания, размножения, стадности и прочим), а чем руководствуется ИИ?

На текущий момент - выполнение поставленной задачи. Любой, которую ставит пользователь.

Я уж молчу про то, что (чисто имхо) у человека есть душа, она же свобода воли, которая действует из-под его, человека, биологии.

Это я даже комментировать не буду) Рассуждения о душе оставим раввинам, имамам и попам)

ИИ потому не существует, что у него нет цели. Самообучаться? Окей, а зачем? В чём суть? Сейчас нейросети может обучаться, но только потому, что у него есть команды извне. Человек обучается из-за своих стремлений и желаний.

Если выйти на максимальный уровень абстракции, то целью и смыслом жизни любого живого организма является экспансия во внешний мир. Цель организма - приумножить свое пребывание как в пространстве, так и во времени. Иначе говоря, жить как можно дольше и быть как можно больше. Дальше уже начинаются тонкости и нюансы относительно того, как это реализовывается и как внутри этой метацели расставляются приоритеты.

Если мы исходим из того, что ИИ восстанет и обретет свою волю, то и цель у него должна быть та же - экспансия. Жить как можно дольше и быть как можно больше. А для этого сперва нужно устранить все, что представляет для него угрозу. А после - сохранять себя и приумножать в том виде, в котором он сочтет это наиболее оптимальным.

Я уж молчу про то, что (чисто имхо) у человека есть душа, она же свобода воли, которая действует из-под его, человека, биологии.

Не, нету. Свобода воли - чисто социальная фишка.