gentlypassing

Катрин Хейлз — это выдающийся американский ученый и исследователь, которая посвятила более пяти десятилетий изучению того, как технологии, культура и литература влияют друг на друга. Она начинала свою карьеру в точных науках, занималась химией на высоком уровне, но затем перешла в гуманитарную сферу и литературоведение. Этот переход дал ей редкую способность совмещать научную строгость и дотошность к фактам с широким гуманитарным кругозором и умением видеть масштабные идеи. Она работала профессором в ведущих мировых университетах, таких как Калифорнийский университет в Лос-Анджелесе (UCLA) и Университет Дьюка.

Главным прорывом, сделавшим ее мировым авторитетом, стала книга 1999 года «Как мы стали постчеловеком». В ней она предложила совершенно новый взгляд на то, что значит быть человеком в эпоху компьютеров и цифровых сетей. В отличие от популярных фантазеров-трансгуманистов, мечтающих сбежать от физической старости и «загрузить» мозг в компьютер, Катрин Хейлз твердо отстаивает незаменимую ценность живого тела и физической материи. В своей работе «От бактерий до ИИ» она расширяет этот подход до планетарного масштаба, показывая связность всех живых существ — от микроскопических бактерий в нашем кишечнике до гигантских нейросетей и глобальной экосистемы Земли. И подчеркивает, что человек — это не изолированный «царь природы», которому все позволено, а часть гигантской живой и технологической сети.

Что говорит?

• Познание есть у всего живого: почему нельзя путать интеллект и умение мыслить

Ученые до сих пор не могут договориться о том, что такое «интеллект» — на сегодняшний день существует как минимум 27 конкурирующих и спорящих друг с другом определений этого понятия. Чтобы избежать бессмысленных споров, гораздо правильнее использовать понятие познание (или когнитивная способность). Познание — это очень простой и понятный процесс: умение живого существа или системы считывать информацию из окружающего мира, понимать ее в конкретном контексте и использовать ее ради достижения своей жизненной цели. Когда мы говорим о познании, не нужно представлять себе только профессора, решающего уравнения, или человека, пишущего книгу. Познанием занимаются абсолютно все живые организмы на нашей планете, даже самые крошечные. Обычная бактерия, подсолнух, поворачивающийся к солнцу, или слизевик, прокладывающий путь к пище через микроскопические каналы ионов кальция, занимаются настоящим познанием. Они оценивают обстановку вокруг себя и принимают решения, чтобы решить одну главную задачу — выжить и продолжить свое существование. Это полностью переворачивает наше привычное представление о мире. Мы привыкли гордиться тем, что мыслить умеет только человек. На самом деле планета буквально пронизана миллиардами больших и маленьких познавательных систем. Человеческий разум — это лишь один из множества голосов в этом гигантском хоре, где подсолнух, собака, бактерия и компьютерный алгоритм по-своему воспринимают реальность и реагируют на нее.

• Живой мир работает на аналоговых вычислениях, а не на нулях и единицах

В современном мире слово «компьютер» у всех автоматически ассоциируется с цифрами, микросхемами, нулями и единицами. Однако цифровой компьютер с самого первого шага делает одну жесткую процедуру: он полностью стирает реальный, «шершавый» физический мир, превращая его в сухие и абстрактные числа. Совсем по-другому работают аналоговые вычисления. Аналоговая система не переводит ничего в абстрактный код — она строит физическую модель процесса, где реальные материальные детали, давление или движение взаимодействуют друг с другом в настоящем времени. Аналоговые компьютеры намного древнее цифровых. Самым первым известным аналоговым компьютером считается Антикитерский механизм, найденный археологами на затонувшем греческом корабле. Ему более 2000 лет (он был создан примерно в I–II веке до нашей эры), и с помощью сложнейшей системы шестеренок, валов и стрелок он с поразительной точностью предсказывал движение планет и звезд. Более того, еще в 1930-х и 1940-х годах аналоговые машины были популярнее и быстрее цифровых, потому что они умели мгновенно решать сложнейшие физические уравнения прямо за счет механики своего тела. Самое главное заключается в том, что вся биологическая природа и человеческое тело работают именно на аналоговых вычислениях. Живые организмы ничего не знают о нулях, единицах и абстрактном счете. Взять хотя бы человеческое ухо: звуковая волна колеблет барабанную перепонку, та передает вибрацию жидкостным каналам, а микроскопические волоски сгибаются под давлением жидкости и создают электрический импульс для мозга. Наше тело не занимается цифровой математикой — оно вычисляет мир напрямую через форму, давление и физическое взаимодействие.

• Будущее цифровых технологий — в возвращении к законам живой природы

Современные большие языковые модели искусственного интеллекта способны создавать невероятно красивые тексты, но с технической точки зрения они чудовищно неэффективны. Чтобы выдать пару осмысленных предложений, цифровому компьютеру приходится делать миллиарды однообразных абстрактных операций снова и снова. Из-за этого современные нейросети требуют гигантских дата-центров, сжигают колоссальное количество электроэнергии и создают огромную нагрузку на экологию. Живая природа за миллионы лет эволюции решила эту проблему совершенно иначе. Биологические организмы научились производить сложнейшие аналоговые вычисления с минимальным расходом энергии. Человеческий мозг потребляет энергии меньше, чем обычная бытовая лампочка, выполняю при этом задачи восприятия и адаптации, которые пока не под силу ни одному суперкомпьютеру в мире. Природа выработала мастерство экономии ресурсов, которому технике еще только предстоит научиться. Именно поэтому будущее цифровых технологий лежит не в том, чтобы просто бесконечно наращивать кремниевые сервера, а в возвращении к аналоговым принципам. Начинается эпоха биоинспирированных вычислений, когда инженеры копируют устройство живых клеток и биологических тканей. Будущее принадлежит гибридным системам, которые соединят гибкость и экономичность аналоговых природных процессов с четкостью цифровых программ.

• Мозг — это не цифровой процессор, а гибкая и динамичная система

В середине XX века исследователи Уоррен Мак-Каллок и Уолтер Питс создали простейшую математическую модель нервной клетки. В их модели нейрон работал бинарно: он либо разряжался (единица), либо молчал (ноль). Это открытие породило популярный, но абсолютно неверный миф о том, будто человеческий мозг устроен точно так же, как цифровой компьютер, хранящий готовые «файлы» и программы в памяти. Дальнейшие исследования доказали, что цифровой переключатель срабатывает в нашей нервной системе лишь в самый последний момент — в точке принятия окончательного решения. А весь гигантский процесс, который ведет к этому решению, представляет собой непрерывную, сложную и «мягкую» аналоговую волну химических и электрических реакций. Называть мозг цифровым компьютером — все равно что судить о работе всего огромного театра только по нажатию кнопки включения света на сцене. В отличие от застывших компьютерных программ, работающих по жестким прописанным инструкциям, живые организмы непрерывно меняются, учатся на лету и динамично перестраивают свою структуру. В мозге нет застывших папок с «файлами» памяти. Живая система постоянно развивается и адаптируется к миру, и ее невозможно свести к сухой схеме цифрового процессора.

• Настоящее обучение рождается из хаоса, а не из застывшего порядка

В 1940–1952 годах на знаменитых конференциях Мейси зарождалась наука кибернетика. Главной идеей того времени было понятие гомеостаза — способности системы удерживать себя в строгих и стабильных рамках. Примером служит обычный комнатный термостат: если становится слишком жарко, он отключает нагрев, если холодно — включает. Долгое время казалось, что и техника, и живые организмы стремятся исключительно к такому застывшему идеальному равновесию. Однако в 1970-х и 1980-х годах развитие теории хаоса и сложности полностью перевернуло эти представления. Ученые обнаружили, что абсолютный порядок и идеальная стабильность вызывают застой и не дают системе развиваться. Знаменитые эксперименты невролога Уолтера Фримена над обонянием кроликов показали поразительную вещь: когда животное сталкивается со сплошным новым запахом, его мозг на мгновение погружается в состояние полного хаоса. Именно этот короткий всплеск хаотической активности позволяет нервной системе выскочить из старой привычной колеи и моментально сформировать абсолютно новый опыт. Более того, запоминая новый запах, кролик одновременно перестраивает восприятие всех старых запахов. Хаос — это не поломка, а важнейший природный инструмент, который дает возможность мгновенно учиться, меняться и приспосабливаться к неожиданностям.

• Когнитивные сборки: люди и технологии принимают решения вместе

Мы привыкли верить в сказку об одиноком и независимом человеке, который обладает абсолютной свободной волей и делает любой выбор совершенно самостоятельно. В современном мире этот взгляд окончательно устарел. Сегодня мы живем в реальности распределенного мышления, где любое значимое действие совершается когнитивными сборками — сложными союзами, состоящими из людей и технологических устройств. Ярким примером такой когнитивной сборки является военный дрон и его оператор. У дрона есть собственная сеть датчиков, алгоритмы слежения и способы обработки изображения. У человека-оператора на базе есть свой контекст и инструкции. Когда происходит точечный удар, решение принимается не просто человеком и не просто роботом. Это совместный продукт единой сети, где восприятие реальности и выбор распределены между живым телом и машиной. Мы находимся внутри таких гибридных сетей ежеминутно. Навигатор в смартфоне прокладывает нам дорогу, банковские алгоритмы решают вопрос о выдаче кредита, а социальные сети формируют ленту новостей. Выбор больше не принадлежит одному человеку — он циркулирует внутри всей сети, где человеческие эмоции тесно переплетены с машинной логикой.

• Нейросети не владеют живой речью — они генерируют лишь ее вычислительную симуляцию

Тексты, которые сегодня генерируют большие языковые модели искусственного интеллекта, выглядят невероятно гладкими, умными и убедительными. Однако алгоритмы не создают живую человеческую речь. То, что они делают, правильно называть «компусим» — вычислительной симуляцией естественного языка. Нейросеть просто рассчитывает математические вероятности того, какие слова должны идти друг за другом, не понимая реального смысла за этими словами. Живой человеческий язык фундаментально укоренен в нашем физическом теле. Наша речь напрямую связана с ритмом дыхания, с паузами между выдохами, с мгновенной эмоцией, чувством страха, любви и осознанием собственной смертности. Мы строим фразы так, как мы дышим и как мы чувствуем мир вокруг нас своими органами чувств. У компьютерного алгоритма нет легких, нет сердца, нет страха смерти и нет эмоций. Он может виртуозно подражать форме поэмы или научного эссе, прочитав миллиарды текстов, но у него нет физического опыта. Между тем, как смыслом наполняет слова живой человек, и тем, как их математически комбинирует машина, лежит непреодолимая пропасть.

• У каждого вида и у каждой машины свой собственный «умвельт» — свой уникальный мир

В XIX веке немецкий биолог Якоб фон Икскюль предложил революционную концепцию «умвельта» (или жизненного мира). Ее суть проста: ни один биологический вид на Земле не видит объективную реальность «как она есть на самом деле». Каждое существо — будь то человек, собака, клещ или птица — строит свой собственный субъективный пузырь восприятия, исходя из того, какими органами чувств и нервной системой наделила его природа. Чтобы два разных вида могли общаться и понимать друг друга, их жизненные миры должны частично пересекаться. Например, человек и собака легко понимают друг друга, когда смотрят на бегущую кошку, потому что у нас много общего в устройстве глаз, ушей и мозга. А вот между жизненным миром человека и жизненным миром клеща пересечений почти нет, поэтому глубокое общение между нами невозможно. Сегодня на сцене появились нейросети, и у них формируется свой собственный цифровой «умвельт». У нас с ними есть гигантская область пересечения, потому что они обучены на человеческих текстах. Но их восприятие мира принципиально иное: оно лишено запахов, физической боли, болезней и радости. Мы живем в разных, хотя и частично переплетенных мирах, и совместная жизнь требует понимания этих границ.

• Антропоцентризм смертелен: человек — не центр Вселенной, а часть общей паутины жизни

Нужно четко различать два понятия — антропоморфизм и антропоцентризм. Смотреть на мир человеческими глазами (антропоморфизм) неизбежно, ведь у нас просто нет других глаз и другого мозга. А вот антропоцентризм — это опаснейшее заблуждение Эпохи Просвещения, уверявшее, будто человеческий разум превосходит все живое на планете и дает людям право безнаказанно грабить природу ради своей выгоды. Миф о нашем абсолютном превосходстве легко разбивается о простейшие биологические факты. Если в нашем кишечнике в один миг погибнут микроскопические бактерии, человек умрет за считанные дни. Мы полностью и безоговорочно зависим от процветания гигантской природной сети, которую привыкли свысока называть «низшей». Единственный способ выжить — перейти к интегрированной когнитивной модели. Человеческий разум не лучше и не хуже других — он просто один из видов познания наряду с разумом животных, растений и алгоритмов. Победить экологический кризис можно только одним путем: отбросив гордыню и осознав себя обычной нитью в общем ковре планетарной жизни.

• Мечты об «отказе от тела» — это опасная фантазия: материя имеет решающее значение

Среди сторонников трансгуманизма невероятно популярна фантазия о том, что однажды люди смогут избавиться от смертного тела и «загрузить» свое сознание в компьютерный жесткий диск, обретя цифровое бессмертие. Такие идеи о том, что человеческий разум можно отделить от плоти как обычную программу от флешки, являются наивной и оторванной от реальности иллюзией. Человеческое мышление выковано миллионами лет эволюции и представляет собой невероятно тонкое переплетение аналоговых и цифровых биологических процессов. Мысли невозможно выдрать из кровотока, нейрохимии, гормонов и телесных ощущений и перенести в кремниевую микросхему, рассчитывая, что разум останется прежним. Все, что существует в реальном мире, обязательно должно иметь физическое воплощение — в виде материи или энергии. Попытки представить человеческий разум как абстрактный бестелесный код игнорируют самое главное: именно сложное, живое физическое устройство нашего тела делает нас теми, кто мы есть.

• Пассивные физические процессы и живые акторы: в чем разница между лавиной и собакой

Чтобы порядок в мире стал понятен, нужно провести четкую грань между двумя понятиями — «агентами» и «акторами». Физические и химические явления (ураганы, стихийные бедствия, падающие камни или лавины) обладают огромной силой, но они являются лишь «агентами». Они не интерпретируют окружающий мир и не делают осознанного выбора — они просто подчиняются механическим законам физики. Совсем другое дело — «акторы». Собака, птица, бактерия или человек — это живые акторы. В отличие от лавины, скатывающейся с горы под действием гравитации, собака считывает сигналы среды, интерпретирует их и принимает решение, куда ей побежать и что сделать. Фундаментальная точка отсчета для любого живого актора — это желание выжить. Траекторию движения физических процессов всегда можно рассчитать формулами. А вот живые акторы, принимающие решения, постоянно открывают новые жизненные возможности. Эволюция не идет по заранее проложенным рельсам — она постоянно перепрыгивает из одной непредсказуемой возможности в другую, создавая бесконечное разнообразие жизни.

• Глубокий симбиоз с компьютерами и ИИ: технологии уже не вернуть назад

Современное человечество давно и необратимо вошло в глубокий симбиоз с вычислительными медиа — роутерами, серверами, микросхемами и сетями. Если бы вся эта вычислительная инфраструктура внезапно рухнула сегодня ровно в полночь, развитые человеческие общества столкнулись бы с вымиранием около 90% населения уже в течение первых 6 месяцев из-за полного коллапса транспорта, поставок еды, медицины и банковской системы. Сегодня мы стремительно входим во второй, еще более глубокий симбиоз — с искусственным интеллектом. Нейросети становятся повседневными собеседниками и помощниками людей. Уже сегодня студенты общаются со своими цифровыми компаньонами в режиме 24/7 (24 часа в сутки, 7 дней в неделю), доверительно советуясь с ними по самым личным бытовым и любовным вопросам. Любой симбиоз в природе несет в себе не только огромную пользу, но и смертельные риски. Однако пытаться «запретить» ИИ и вернуться в прошлое бесполезно — джинн окончательно выпущен из бутылки. Единственный разумный путь — как можно быстрее создать строгие международные правила и осознанно управлять этим новым сожительством.

• Мышление планетарного масштаба: единственный шанс спастись от вымирания

Считать слово «глобалист» ругательством и замыкаться в узких национальных или политических границах — это опаснейший провинциализм, который тянет цивилизацию назад. Ни один серьезный современный кризис — будь то изменение климата, загрязнение мирового океана или экзистенциальные риски искусственного интеллекта — принципиально невозможно решить в рамках одного отдельного государства. Чтобы справиться с угрозой полного уничтожения, отдельным государствам придется пойти на беспрецедентный шаг — передать часть своего национального суверенитета международным органам управления с реальными жесткими полномочиями. История показывает, что люди соглашаются на такие меры только под воздействием прямой и осознанной экзистенциальной угрозы вымирания. Наш единственный шанс на будущее — отказаться от эгоизма и сформировать планетарное сознание. Только когда человек научится мыслить не интересами своей маленькой группы, а интересами всей Земли как единого коллектива людей, природы и машин, мы сможем сохранить жизнь на этой планете.

__________________________________________
Автор: Ilya Plekhanov / fastsalttimes_com