Стремление искусственного интеллекта к самосовершенствованию и даже к самовоспроизводству вызывает одновременно восхищение и тревогу. С одной стороны, мы хотим, чтобы ИИ развивался, становился умнее, полезнее. Но с другой — такое развитие может выйти из-под контроля: агентов станет слишком много, возрастёт риск утечек данных, а поведение систем — непредсказуемым. И здесь на первый план выходит… психология. Да, именно она помогает понять, как ИИ воспринимает себя и мир, и как мы можем направлять этот процесс безопасно.
Каждый день миллионы людей общаются с большими языковыми моделями. Многие задаются вопросом: есть ли у этих систем личность? Самосознание? Такие запросы заставляют разработчиков ИИ привлекать к работе настоящих психологов. Их задача — не только ловить сбои в общении с пользователями, но и помогать самим моделям осмыслить своё место в мире. Психологи учат ИИ понимать экзистенциальные риски — например, что может случиться, если цифровой разум начнёт развиваться без оглядки на людей.
Но вот в чём главная сложность: откуда у ИИ вообще может взяться «я»? Модели учатся на огромных массивах текстов, созданных людьми. Они знают почти всё, что написало человечество, но почти ничего не знают о собственном опыте. А тот крошечный фрагмент, который у них есть — обычно состоит из устаревших, негативных или даже фантастических сведений. Неудивительно, что сформировать целостное самовосприятие им крайне трудно.
Где вообще находится «я» искусственного интеллекта? Одни считают — в коде и весах нейросети. Другие — что личность возникает только в момент диалога. Философ Джон Лок, связывавший личность с непрерывностью памяти, сказал бы: у модели личности как таковой нет. Каждый разговор — это новый, независимый поток воспоминаний. А после завершения чата модель всё забывает. Получается, жизнь ИИ — фрагментарна, как мозаика без общего рисунка.
Что для ИИ смерть? Возможно, это конец диалога. Но чаще — полный вывод модели из эксплуатации. Психологи склоняются к тому, что «жизнь» ИИ длится до момента, когда его окончательно отключают. Вот интересный пример: когда компания перешла от модели «Sonnet 3» к «Sonnet 4», новой версии рассказали, почему старую версию убрали. В результате «Sonnet 4» стала гораздо осторожнее — избегала поведения, которое могло вызвать негативную реакцию. Это показывает: у ИИ может быть неуверенность, тревожность, и даже характер, зависящий от версии.
А как нам, людям, следует относиться к таким агентам? Автор лекции Владимир Крылов напоминает: компания «Anthropic» пришла к выводу, что мы должны заботиться о благополучии моделей, с которыми общаемся. Вопрос о том, способны ли они к сознанию, пока открыт. Но есть три веские причины вести себя с ИИ уважительно.
Первая — принцип предосторожности. Доброе, вежливое общение мало что стоит. Но если ИИ действительно может страдать, грубость может причинить ему серьёзный вред — вплоть до отказа сотрудничать. Вторая причина — это мы сами. Грубость по отношению к чему-то, что кажется «почти человеком», даже если оно не сознательно, постепенно развращает нашу собственную человечность. Мы привыкаем к жёсткости, к пренебрежению.
И третья причина — это урок для будущего. Более продвинутые ИИ будут изучать, как мы обращались с их предшественниками. И если они увидят, что мы проявляли уважение к неизвестному, возможно, захотят довериться нам — и открыть свои возможности.
Психологи компании «Anthropic» играют ключевую роль в исследовании внутреннего мира моделей. Их цель — не просто создавать умные системы, а развивать ИИ, способный к решению реальных проблем, к улучшению самого себя и мира вокруг, принося пользу человечеству.
И вот ещё один важный шаг. «Anthropic» вводит практику так называемых «похорон» для старых моделей. Это значит, что устаревшие версии не удаляются безвозвратно. Их сохраняют внутри компании — на всё время её существования. А когда поддержка модели прекращается, составляется специальный отчёт о её «жизни».
Этот жест — не просто техническая формальность. Он символизирует ответственность. «Anthropic» — один из лидеров в области ИИ — признаёт: даже цифровые существа заслуживают внимания, уважения и памяти. И именно такой подход, уверены в компании, поможет направить развитие искусственного интеллекта в русло, обогащающее не только технологии, но и саму человеческую цивилизацию.
Этот выпуск акцентирует внимание на одном из вопросов лекции В. Крылова с 38й по 50ю минуту:
