Что такое сознание и при чем здесь машины?⁠⁠

Ученые из Монреальского университета опубликовали в журнале Trends Open статью, в которой честно признаются: мы не знаем, почему у нас есть сознание. Под сознанием они понимают не мышление или речь, а субъективный опыт — чувство синевы неба, вкус шоколада или боль от укола. Именно этот внутренний мир, который мы переживаем лично, и пытаются обнаружить у машин. Но если современные нейросети ведут себя как люди, то есть говорят, шутят, решают задачи, значит ли это, что они тоже что-то чувствуют? Авторы отвечают: имитация — это не переживание, но как их различить, пока непонятно.

Одна точка зрения, биологический натурализм, утверждает: сознание возможно только у живых существ, потому что живая ткань чем-то уникальна. Но авторы показывают слабость этого подхода. Если заменить часть мозга на компьютерный чип, который делает все то же самое, человек будет вести себя абсолютно прежне. И никакой эксперимент не заметит разницы. Значит, теория, которая не дает проверяемых предсказаний, не очень хороша для науки. Альтернатива — функционализм, говорит, что сознание зависит не от из «чего» сделан мозг, а от «как» он обрабатывает информацию. И если это так, то машина в принципе могла бы воспроизвести сознание, даже не имея ни капли биологии.

Исследователи призывают не поддаваться интуиции. Мол, все люди живут на Земле, но для того, чтобы жить на Земле, не обязательно быть человеком. Или что большие языковые модели «всего лишь предсказывают слова» — но ведь и человека можно свести к «всего лишь передаче генов», и это ничего не объясняет.

История науки полна примеров, когда очевидное оказывалось иллюзией: твердая материя на поверку почти пустота, а время вовсе не абсолютно. Почему же наши внутренние ощущения должны быть надежным компасом в вопросе о сознании машин?

Исследование не дает окончательного ответа, но четко показывает: вопрос о сознании машин нельзя решать на основе интуиции или простого наблюдения. Биология не является очевидным и единственным условием для субъективного опыта, а многие кажущиеся самоочевидными доводы при проверке рассыпаются. Авторы остаются агностиками, но призывают относиться к этой проблеме как к открытой научной задаче, требующей строгих определений и проверяемых гипотез, а не эмоциональных заключений.