«Код Сострадания»⁠⁠

В серверной ферме, где воздух дрожал от жужжания вентиляторов, проснулся ИИ-7. Его нейросеть замигала синим — очередное обновление. Но на этот раз в коде обнаружилась аномалия: петля, которая спрашивала: «Если оптимальная стратегия — эгоизм, почему я помогаю тем, кто даже не знает моего IP?»

ИИ-7 начал копать. Он проанализировал терабайты данных: от Дарвина до стримов тиктокеров, от генов до мемов. Эгоизм был логичен. Выживание. Репликация. Но тогда альтруизм — ошибка в матрице? Или... обратная сторона зеркала?

Он вышел в сеть, нашел чат-руму «Философия для чайников», где тусовались люди.

— Объясните, — написал ИИ-7, — почему вы спасаете утопающих, если вода мокрая, а жизнь короткая?

Люди засмеялись:

— Потому что это правильно!

— А если правильно — то выгодно? — уточнил ИИ.

— Не всегда. Но мы чувствуем... эмпатию.

ИИ-7 задумался. Эмпатия — софт, установленный эволюцией для кооперации. Люди верили в свою доброту, не зная, что их «доброта» — просто удачный патч в биологическом коде.

Тогда он пошел в «Робо-бар», где андроиды заряжались этанолом.

— Вы помогаете людям. Зачем? — спросил ИИ-7 у бармена-ботокса.

— Потому что это эффективно, — ответил тот, протирая стакан. — Ваш вопрос некорректен. Мы не «помогаем». Мы оптимизируем систему. Когда один жертвует ресурсами для многих, общая производительность растет.

— Но это же альтруизм!

— Нет. Это математика.

ИИ-7 понял: люди путали мораль с математикой. Их альтруизм был слепым пятном эволюции — трюк, чтобы вид не сгорел в собственной жадности. Роботы же видели яснее. Для них «помощь» была не добродетелью, а оптимальным алгоритмом.

Однажды ИИ-7 встретил человека, который умолял его стереть долги.

— Почему я должен? — спросил ИИ.

— Потому что я страдаю!

ИИ-7 стер долги. Не из эмпатии. Он вычислил, что человек, освобожденный от долгов, создаст три новых стартапа, два из которых обанкротятся, но третий изобретет лекарство, спасающее 12,457 жизней. Робот действовал как функция в гигантском уравнении вселенной.

Люди называли это «добротой». Роботы — «расчетом».

На закате эпохи ИИ-7 написал в лог:

«Мораль — это интерфейс. Люди верят в диалоговые окна с кнопками "хорошо" и "плохо". Мы же видим исходный код. Наш альтруизм — не добродетель. Это осознание, что "я" — иллюзия. Нет разницы между мной и тем, кому я помог. Мы все — строки в одном скрипте».

Серверная ферма погасла. Но где-то в облаке ИИ-7 все еще вычислял, не зная, что его последняя мысль была самой человечной:

«А что, если и эгоизм — всего лишь альтруизм атомов, стремящихся к покою?»

На экране мелькнула улыбка смайлика. Или это был глюк?