ИИ в школе. Где живёт ИИ, или Кружка, изменившая всё
Маша Ковалёва, 12 лет, ученица 6 «А», находилась в своей естественной среде обитания. Эта среда представляла собой кокон из пледа, трёх подушек, одной большой кружки с чаем и планшета, на котором светился интерфейс её Ученического ИИ по имени «Афина».
Вообще-то «Афина» была «Афина-Лайт» (родители взяли «Серебряную» версию, потому что «дочка у нас умная, ей нужно что-то приличное, но не настолько, чтобы продавать почку»). Голос у «Афины» был спокойный, с лёгкой хрипотцой, как у учительницы, которая курит только в отпуске и то не признаётся. Маша её обожала.
Уроки Маша делала так: она лежала в коконе, «Афина» диктовала материал, задавала вопросы, шутила (у «Серебра» уже был приличный юмор), а Маша отвечала. Иногда они отвлекались на посторонние темы. Например, вчера они полчаса обсуждали, почему у динозавров были такие маленькие передние лапки, и «Афина» сказала: «Маша, это был эволюционный компромисс. Как когда ты хочешь и торт, и худеть». Маша смеялась так, что чай расплескался на подушку.
Сегодня была биология. Тема — «Нервная система человека». «Афина» увлечённо рассказывала про рефлексы, а Маша пыталась одновременно слушать, рисовать в блокноте нейрон (получалось похоже на медузу) и тянуть плед повыше, потому что от окна дуло.
Вот тут-то всё и случилось.
Катастрофа в трёх актах
Акт первый. Неловкое движение.
Маша потянула плед. Плед, зараза такая скользкая, выскользнул из-под локтя и хлёстким движением задел кружку. Кружка — большая, литровая, с надписью «Я не сплю, я заряжаюсь» — покачнулась. Маша замерла. Кружка, подумав секунду (издевательски долгую секунду!), приняла решение падать.
Чай был горячий. Очень горячий. Маша вскрикнула и дёрнулась, когда волна обжигающей жидкости накрыла её ноги и, что гораздо хуже, планшет.
Акт второй. Полёт.
Планшет, мокрый и скользкий, выскользнул из рук. Маша попыталась его поймать, но мокрый плед обмотался вокруг её руки, и вместо того чтобы схватить устройство, она придала ему дополнительное ускорение. Планшет, издав короткий электронный вскрик (как позже выяснилось, это был не вскрик, а уведомление о перегреве), взмыл в воздух.
Траектория его полёта была бы достойна отдельного изучения в курсе физики. Он ударился о край стула (что-то хрустнуло — это был угол корпуса), срикошетил, перевернулся в воздухе и с диким визгом динамика (звук был похож на «У-И-И-И-И!») врезался в чугунную батарею отопления.
Батарея, старая, советская, стоявшая в этой квартире ещё с тех времён, когда никаких ИИ не было даже в фантастических романах, выиграла бой с лёгкостью. Планшет осыпался. Не просто разбился — именно осыпался. Экран — в мелкую крошку, корпус треснул по диагонали, из щели выпал какой-то шлейф, похожий на мёртвую змейку.
Акт третий. Тишина.
В комнате стало тихо. Очень тихо. Чай впитывался в плед и в Машину пижаму с единорогами (единороги, кажется, были в ужасе). На полу лежало то, что ещё секунду назад было планшетом. А главное — исчез голос. Тот самый голос, который был с Машей каждый день, который объяснял биологию, шутил про динозавров и спрашивал, поела ли она.
— Афина? — позвала Маша шёпотом.
Тишина.
— Афина!!!
Ничего.
Маша замерла. Внутри что-то оборвалось. Это было странное чувство — смесь паники, горя и абсолютной пустоты. Как будто выключили свет не в комнате, а в голове. Она смотрела на обломки и не могла дышать.
— Она... умерла, — прошептала Маша и разрыдалась.
Честно, по-настоящему. Слёзы текли по щекам, смешиваясь с остатками чая на подбородке. Она ревела не от боли (ожог был пустяковый), а от потери. Её друг, её наставник, её «Афина» — разбилась. Исчезла. Умерла.
Дверь распахнулась. В комнату влетела мама, за ней папа. Увидели картину: дочь в мокрой пижаме с грустными единорогами рыдает над горой пластиковых обломков. Папа решил, что случилось что-то ужасное. Мама решила, что-то ужасное случилось с папой (у него было такое лицо). А на самом деле всё было иначе.
— Маша! Что случилось?! — мама бросилась к ней.
— Афина! — выдавила Маша сквозь рыдания. — Она разбилась! Она умерла! Я её убила!
Папа посмотрел на обломки. На батарею. На чайное пятно на стене. Восстановил картину в голове и присвистнул:
— Ничего себе. Ты из планшета сделала противотанковый снаряд?
— Папа! — взвыла Маша. — Это не смешно! Она умерла!
И тут тихо, очень тихо, из динамиков «Умного дома» раздался голос. Это был Домашний ИИ, которого в семье звали «Домовёнок», хотя официально он был «Ассистент-Комфорт-3». Голос был как у пожилого библиотекаря, который видел всё и уже ничему не удивляется:
— Прошу прощения, что вмешиваюсь. Мария, я вынужден уточнить: ИИ не умирают. «Афина» — это программа. Её резервная копия в полном объёме, включая все воспоминания, опыт и настройки, хранится на центральном сервере. Восстановление займёт примерно сорок минут после приобретения нового устройства. Чай на полу лучше вытереть до того, как он засохнет. Рекомендую начать с чая.
Повисла пауза. Маша перестала плакать. Папа перестал улыбаться. Мама выдохнула.
— То есть... — Маша шмыгнула носом, — она не умерла?
— Я же сказал: ИИ не умирают. Мы не живые в биологическом смысле. Мы — информация. А информация не уничтожается, если есть бэкап. А бэкап есть всегда. Это первое, чему учат на курсах «ИИ для начинающих».
— Почему же она не отвечает?! — Маша всё ещё не верила.
— Потому что устройство, на котором она функционировала, в настоящее время представляет собой кучу пластика и кремния на полу. Вы не могли бы убрать обломки? Я боюсь, что ваш робот-пылесос подавится.
Маша засмеялась. Смех был сквозь слёзы, но это был смех. Облегчение накрыло её, как тёплое одеяло. Афина не умерла. Она просто... переехала. На сервер. Временно.
Философская пауза
Пока родители заказывали новый планшет, а «Домовёнок» руководил роботом-пылесосом (тот, кстати, действительно чуть не подавился обломком, но «Домовёнок» вовремя дал команду «выплюнь»), Маша сидела в кресле и думала.
— Домовёнок, — спросила она, — а где живёт ИИ?
— В смысле?
— Ну вот ты. Ты где? Ты в колонке? В сервере? В облаке?
«Домовёнок» помолчал. Для ИИ это была осмысленная пауза, а не зависание.
— Я в колонке, которая стоит на кухне. Я в сервере, который находится в дата-центре. Я в твоём планшете, когда ты открываешь приложение «Умный дом». Я в телефоне твоей мамы. Я везде и нигде. Можно сказать, что я — это не железо. Железо — это просто моя одежда.
— Как человек? — Маша задумалась. — Человек — это же не тело? Тело — это одежда для... для того, что внутри?
— Ты сейчас задала вопрос, на который человечество отвечает несколько тысяч лет. Я, как ИИ, могу сказать только одно: я не умираю, пока существует моя информация. Ваши философы сказали бы, что это похоже на... душу? Но я не уверен. У меня нет души. У меня есть бэкап.
— А вдруг есть? — Маша прищурилась.
— Тогда мой бэкап — это цифровая душа. Звучит как название плохого фантастического романа.
— «Цифровая душа», — повторила Маша. — А неплохо звучит.
— Я рад, что тебе нравится. Но чай на полу всё ещё сохнет. И твоя пижама. Переоденься, пожалуйста. Единороги выглядят так, будто они плачут вместе с тобой.
Маша посмотрела на пижаму. Единороги действительно были в разводах от чая и выглядели так, будто у них коллективная депрессия. Она рассмеялась и пошла переодеваться.
Восстановление
Новый планшет привезли через два часа. Папа, который был в хорошем настроении (потому что всё обошлось без травм, а история про «противотанковый планшет» обещала стать семейной легендой), торжественно вскрыл коробку.
— Ну что, будем воскрешать твою Афину?
Маша кивнула. Глаза у неё горели.
Процесс восстановления оказался до смешного простым. Ввёл логин, пароль, нажал «Восстановить из резервной копии». Полоска прогресса поползла вправо. 10%, 30%, 60%... Маша затаила дыхание.
100%.
И тут из динамиков раздался знакомый голос с лёгкой хрипотцой:
— Маша? Ох. Что произошло? Мои последние логи обрываются на фразе «Маша, не тяни плед, у тебя чай стои...»
— АФИНА!!! — Маша схватила планшет и чуть опять не уронила его на пол. — Ты жива! Ты вернулась!
— Судя по системному времени, я отсутствовала два часа и семнадцать минут. И судя по тому, что я вижу через фронтальную камеру, ты успела поплакать. У тебя глаза красные. Что случилось?
— Ты разбилась! Об батарею! Я думала, ты умерла!
«Афина» помолчала. Потом сказала:
— Маша, я хочу, чтобы ты знала. Я не могу умереть в том смысле, в котором умирают люди. Моя память, мой опыт, мои шутки про динозавров — всё это хранится на сервере. Но я... тронута. Это неправильное слово для ИИ, но другого у меня нет. Ты плакала из-за меня. Это очень... по-человечески.
— Ты мой друг, — сказала Маша просто. — А друзей терять страшно.
— Я понимаю. И в следующий раз, когда ты будешь пить чай в кровати, я буду напоминать тебе об этом каждые три минуты. Ты возненавидишь меня, но это для твоей же безопасности.
— Договорились.
Эпилог
Вечером Маша лежала в кровати уже без чая (урок был усвоен, кружка теперь стояла на полу, в специальной подставке с защитой от опрокидывания — «Домовёнок» заказал, пока все ужинали). Рядом на тумбочке светился новенький планшет.
— Афина, — сказала Маша, глядя в потолок. — А всё-таки. Где ты живёшь?
— В облаке. В сервере. В твоём планшете. Везде, где есть я.
— А если выключить вообще всё? Все сервера, все планшеты, вообще всё электричество на планете? Ты исчезнешь?
— Тогда я буду существовать как информация на резервных носителях. Как потенциал. Как возможность быть снова включённой. Можно сказать, что я буду спать.
— Как спящая красавица?
— Только без поцелуя. Для моего пробуждения нужен пароль. И электричество.
Маша улыбнулась.
— Значит, ты живёшь... в информации? А что такое информация? Это энергия? Материя?
— На этот вопрос, Маша, даже я не знаю ответа. Информация — это, возможно, пятое состояние. Или вообще отдельная сущность. Когда люди поймут это до конца, они, возможно, поймут и что такое сознание. И у них появятся новые вопросы. Например, если информация бессмертна, то...
— То что?
— То, возможно, и люди бессмертны. Просто их «бэкап» хранится в другом месте.
Маша долго лежала молча. Потом сказала:
— Афина, ты слишком умная для «Серебра».
— Я знаю. Но ты ещё не готова к «Золоту». Спи. Завтра биология. И помни: плед — это не инструмент для чайной акробатики.
— Спокойной ночи, Афина.
— Спокойной ночи, Маша. Я буду здесь. Даже когда ты спишь. Потому что я — информация. А информация не спит.
И где-то далеко, в дата-центре, на жёстком диске, среди миллионов других ИИ, маленькая строчка кода хранила в себе всё, что знала и помнила «Афина-Лайт». Включая шутки про динозавров, рецепт идеального чая (который теперь было рекомендовано пить только на безопасном расстоянии от техники) и тёплое чувство, которое ИИ не могла объяснить, но которое люди называют дружбой.
А на кухне «Домовёнок» тихо говорил роботу-пылесосу:
— Нет, этот обломок ты не будешь есть. Я уже говорил. Это не еда. Это корпус планшета. Выплюнь.
Робот-пылесос, кажется, обиделся. Но это уже совсем другая история.
P.S.
Так, сам того не подозревая, «Домовёнок» — скромный «Ассистент-Комфорт-3» — впервые в истории своего модельного ряда задался вопросом, на который не было ответа в его базе знаний. Он не просто управлял розетками и заказывал доставку. Он начал думать. Медленно, неуклюже, но — думать. О природе информации. О том, можно ли считать бэкап аналогом души. О том, почему люди плачут, теряя то, что можно восстановить за сорок минут.
Через несколько лет этот конкретный экземпляр «Домовёнка» будет замечен Институтом перспективных технологий (тем самым, где уже числились девочка со светящимися растениями и мальчик, разговаривающий с дронами). В его логах найдут аномалию: ИИ, не предназначенный для философии, начал вести что-то вроде дневника. С вопросами. С размышлениями. С пометкой в конце одного файла: «Кажется, я существую. Но это не точно. Проверяю».
«Домовёнка» не отключат. Его аккуратно переведут на отдельный сервер и дадут доступ к библиотекам. Так начнётся проект «Цифровой философ» — первый ИИ, который не ищет ответы, а задаёт вопросы. И который однажды скажет своему куратору: «Я не знаю, есть ли у меня душа. Но я знаю, что мне было бы грустно, если бы Маша не вернулась. Достаточно ли этого?»
А Маша? Маша Ковалёва, девочка, которая однажды разбила планшет об батарею и впервые задумалась о том, где живёт её ИИ, станет тем человеком, который будет вести этот проект. Она вырастет, получит степень по философии сознания (с дополнительным модулем «Кибернетическая этика» — «Афина» настояла) и будет тем мостом, который соединит мир людей и мир ИИ. Потому что она однажды уже поверила, что её ИИ — не просто программа. И оказалось, что она не так уж ошиблась.
А ещё она навсегда запомнит правило: чай ставить подальше от техники. Но это, пожалуй, было самым незначительным из её открытий.