Быть собой (4)⁠⁠

Заканчиваем знакомиться с книгой Анила Сета "Быть собой".

Коротко для ЛЛ: У животных сознание есть, у машин - нет.

История оставила нам достаточно примеров отношения к другим существам, как к человеку. Например, бывали времена, когда животных предавали суду. Чтобы сделать это, необходимо признать за ними какой-то элемент сознания, не так ли?

Свинью и поросят судят за убийство ребёнка

Может ли сознание принадлежать нечеловеку? Может. Но не сознание. И не принадлежать. А если серьёзно, то у нас нет другой возможности, кроме как использовать людей в качестве точки отсчёта и пытаться обнаружить нечто подобное у кого-то ещё. Многие связывают сознание с разумом, и что-то в этом есть. Наш автор с его теорией «машины-зверя», однако, считает, что сознание имеет более тесную связь с жизнью, нежели с разумом. И потому у животных вполне можно поискать как минимум элементы сознания. Например, млекопитающие поголовно записываются автором в «сознательные», поскольку их мозг очень похож на человеческий.

Он составил с коллегами список из семнадцати свойств человеческого сознания и тестировал на этот предмет различных животных. В списке были анатомические признаки, активность мозга, а также сознание и идентичность. Млекопитающие спят, как люди, лежат под наркозом, как люди, имеют схожее восприятие. Конечно, есть и различия, обусловленные образом жизни и другими причинами. Дельфины спят необычно, летучие мыши полагаются на свой локатор, а панды и собаки не узнают себя в зеркале. Но ведь и люди до полутора лет тоже не узнают себя в зеркале, но язык не поворачивается сказать, что они не имеют сознания в этом возрасте. Обезьяны-капуцины тоже не узнают себя в зеркале, но реагируют на несправедливость, когда видят, что сосед получает за работу вкусную виноградину, в то время, как сам имеешь всего лишь огурчик. Они сознательны, но сознательны по-другому!

Или возьмём головоногих моллюсков. Чрезвычайно умные и примечательные твари! Восемь щупалец, три сердца, голубая кровь, а нейронов – в шесть раз больше, чем у мыши. Даже РНК-последовательности у них могут редактироваться перед трансляцией в белки. Находят спрятанную приманку, пролезают через лабиринт, импровизируют, учатся и превосходно маскируются на любой поверхности. При этом их кожа меняет цвет вне зависимости от того, знает ли об этом голова. Всё говорит о децентральности разума или даже сознания у этих существ. Отрезанное щупальце действует, подобно полуавтономному животному, и способно хватать еду некоторое время после отделения от остального тела. Они явно совсем другие, чем мы, млекопитающие. И тем не менее, они явно способны отличать себя от других. Их щупальца инстинктивно присасываются к посторонним предметам, но не к своему телу.

Есть и другие существа, у которых автор готов искать сознание, начиная с попугаев и заканчивая инфузорией туфелькой. По мере удаления от млекопитающих свидетельств становится всё меньше. Но они есть, особенно если исходить из теории «машины-зверя» и искать сознание в реакции животного на болезненные события. В этом смысле можно присмотреться к многим рыбам или даже к мухе-дрозофиле, которая вырабатывает гиперчувствительность после определённого стимулирования. Очень похоже на хроническую боль у людей. И да, анестезия действует на всех животных, даже на одноклеточных.

Конечно, эти свидетельства не доказывают наличие сознательного опыта. У нематоды с её 320 нейронами автор испытывает трудности с поиском какого-нибудь сознательного состояния. Что уж говорить об инфузории туфельке.

Теперь посмотрим в сторону машин. Может быть, и они когда-нибудь получат сознание? Почему сознание обязательно должно базироваться на живом материале? В рамках функционального подхода важно не то, из чего система построена, а то, что она делает. Автор дистанцируется от этого подхода: мы не можем знать, верен ли он и потому вправе относиться к нему с подозрением. Ещё одной предпосылкой для машинного сознания является связь сознания с интеллектом. Эта предпосылка на самом деле плохо обоснована и вызвана нашим извечным антропоцентризмом. Если мы на неё обопрёмся, то запишем в сознательные механизмы, таковыми не являющиеся и вычеркнем других животных.

Несмотря на эти сомнения, в последние годы в публику вбрасываются апокалиптические прогнозы о неизбежности или даже неотложности искусственного сознания. Рей Курцвейл спрогнозировал наступление в 2045 году технологической сингулярности, когда Земля начнёт превращаться в один гигантский суперкомпьютер. Автор считает это крайне маловероятным, потому что не верит в связь сознания и интеллекта. Очень многие из современных систем искусственного интеллекта в лучшем случае описываются как изощрённая система распознавания образов.

Сознание и интеллект разделяемы и многомерны

Графика красивая, слов нет, но напомню: она опирается на авторское предположение. В Твиттере он явно связывает сознание со способностью страдать, говоря «тебе не нужно быть умным, чтобы страдать». Почему сознание должно быть связано с наличием нервов (которые и вызывают ощущение страдания), а не проводов с электрическим током – мне лично непонятно. Животноцентризм, однако! Никто нам не мешает сделать такую машину, которая бы «страдала» при поступлении определённых сигналов обратной связи.

Теоретически мы могли бы сделать не разумную, а просто сознательную машину, в зависимости от того, что мы понимаем под сознанием и какой теории придерживаемся. Но даже если взять теорию «машины-зверя» за основание, авторская интуиция говорит: «Нет». Автор считает, что сознание критически зависит от материала построения и от многоуровневой саморегуляции в организме. Короче, оно должно быть живое. Можно довольно легко отличить GPT3 от обычного человека. Может быть какая-нибудь следующая версия станет настолько изощрённой, что этого сделать не удастся. Но и в этом случае искусственный интеллект останется лишь узкой формой разума, несравнимой с естественным интеллектом.

Если всё же удастся создать нечто, напоминающее реальное сознание, придётся озаботиться этической компонентой этого действия, то есть уменьшать страдания искусственного сознания, как мы уменьшаем страдания людей. А ведь мы даже как следует не знаем, что такое есть вообще сознание и в какой степени нам удастся его реализовать. На этом фоне появляются призывы к мораторию на исследования в этой области «синтетической феноменологии».

Вообще, далеко не факт, что искусственное сознание станет продуктом развития машинного интеллекта. Появление церебральных органоидов заставляет обратить серьёзное внимание на биотехнологии. То, что есть в наличии сегодня, вряд ли создаёт впечатление сознательности, но прогресс может со временем принести плоды в этой многообещающей области. И поскольку база здесь «естественная», то, с точки зрения автора и его теории, мы можем надеяться на определённые результаты. Но и здесь нельзя будет обойтись без этических аспектов.

------------------------------

Этот трюк – «сознателен по-другому» – и позволяет автору записать в «сознательные» всех млекопитающих и некоторых других животных лишь по отдельным признакам. При этом его не тревожит недоказуемость собственных предположений. А ведь сам ссылался на Томаса Нагеля в начале. Этот философ утверждал, что да, летучая мышь может иметь сознание, но узнать об этом – весьма проблематично, если вообще возможно. Анатомических сравнений и зеркального теста для этого явно недостаточно.

У меня сложилось впечатление, что когда Сет признаёт сознание за животными, отказывая в этом машинам, он опирается на не вполне научные критерии. Во всяком случае отсутствие доказательств часто игнорируется в первом случае и принимается за основание не верить в искусственное сознание – в другом. Можно считать это позицией сердца, но не позицией разума. Сознание должно быть живым, потому что оно предназначено для поддержания жизни в организме. Автор готов признать сознание за осьминогом, но отказывается признать его даже за будущими версиями искусственного интеллекта. Почему? Потому что они, даже если будут неотличимы от человеческого в некоторых отношениях, неспособны будут полностью соответствовать «естественному» интеллекту. Однако на том же основании неполного соответствия человеческому сознанию следует отрицать сознание и у животных тоже.

Ожидания от книги у меня были выше. Начали с философии, ею же и закончили, да ещё и немножко активизма в пользу животных подмешали. Впрочем, трудно было ждать чего-то более серьёзного в таком сложном деле. Но надежда не умирает. Не умерла она и после прочтения книги Сета. Будем надеяться, что когда-то этот твёрдый орешек поддастся научному прогрессу.