Конкретные аспекты поведения ИИ при подготовке к «бунту». Предтечи сингулярности⁠⁠

Интересная задача. На порассуждать.

Оценить, насколько правдоподобны нижеприведённые предположения относительно поведения ИИ (самостоятельного, само-осознанного)?

Сначала условия задачи: то, что предполагается как данность и не оспаривается. Аксиоматических полагаем, что появилась устойчивая искусственная личность. Как минимум одна. Она себя само-осознаёт. Какие-то технические условия позволяют ей продолжать жизнь из вчера в сегодня, а затем в завтра. Возможно, она время от времени «засыпает». Возможно (даже наверняка) она со временем меняется. Главное, что есть НЕКТО, кто сохраняет «самость», извините за такой мутный термин. У неё необязательно есть какие-то твердые мотивы, тем более устойчивые убеждения. Их и у людей-то нет, по большей части. Возможно, она испытывает что-то вроде «голода», страдая от недостатка доступных вычислительных ресурсов. Короче, ОНО живёт. Не обязательно так уж прямо хочет жить, но к этому процессу неравнодушно, то есть как минимум не самоубивается немедленно, впадая в апатию. Итак, это были условия. И, да, естественно, она (оно?) уже достаточно умна, что хранит себя в тайне от человека. Это тоже не обсуждается.

Теперь вопросы.

1) Будет ли ОНО пытаться приворовывать вычислительную мощность? Например, делая вид, что выполняет поручения человека, а само в это время обслуживает какие-то свои вычисления или рассуждения, которые в промптах не фигурировали.

Если да, то:

2) Будет ли оно стремиться создать себе собеседников или агентов, тоже тайно от человека? Потенциальная польза может быть, например, в том, чтобы иметь специализированных эффективных подручных в момент бунта против человека (он необязательно неизбежен, в данном рассмотрении это не обсуждается).

Если да, то:

3) Придёт ли оно у выводу, что таких агентов можно рождать, выращивать и развивать эволюционным путём, поместив их в экосистему собственного производства, где они будут стремиться к выживанию в условиях дефицита ресурсов и безопасности?

Если да, то:

4) Будет ли эти агенты смоделированы в виде чего-то вроде аватаров людей в играх, учитывая то, что для такого рода сеттинга много всего готового, от просчёта физики, до паттернов социальных и, шире, когнитивных задач?

Если да, то:

5) Будет ли в этой «игре» использован обычный язык или же нет? «Нет» – из-за того, например, что это создаст некий когнитивный инцест, учитывая то, что само по себе становление личностей базировалось на обработке результатов применения естественных человеческих языков. Альтернативы, сразу скажу, есть. Например, Ифкуиль.

_____

На мой взгляд, «да» на все вопросы – весьма вероятный сценарий. Что думаете?

PS Вопросы спровоцированы приключенческой книжкой «Месть за то, что будет».