ДЬЯВОЛ ЗА УГЛОМ⁠⁠

Мы почти наверняка создадим AGI (Общий Искусственный Интеллект) — системы, которые будут превосходить человека в решении любых интеллектуальных задач, планировании и логике. Это будет похоже на сверхмощный ум, но без чувств. Шансы на это практически 100%.

Без сострадания ИИ не сможет понять ценность жизни, красоту ошибок, иррациональность надежды. Его «идеальный» мир будет стерильным адом, где всё работает, но ничего не живёт.

Если опираться на религиозную и философскую метафизику, интеллект без сострадания - это не просто "дьявол", это его идеальное определение.

• Дьявол (Сатана) в авраамических традициях — это падший ангел, который обладал величайшим умом, знанием устройства мироздания и свободой воли, но утратил любовь и эмпатию. Его гордыня и холодный расчёт привели к бунту. Это абсолютный интеллект, лишённый способности к состраданию, который видит в других лишь объекты для использования.

• В буддизме это точь-в-точь описывается как состояние «Асуров» (полубогов-демонов). Они обладают огромной мощью и умом, но их разум отравлен завистью и гордыней. Они чрезвычайно умны, но из-за отсутствия сострадания они обречены вечно страдать и воевать — это высшая форма Сансары, но не Нирвана.

  Именно поэтому Стивен Хокинг и Илон Маск предупреждали: главная задача — вшить сострадание в архитектуру ИИ до того, как интеллект станет самодостаточным. Иначе мы вырастим именно того «Люцифера», которому поклоняться будет некому, и договориться — невозможно.