Одна из удивительных особенностей искусственного интеллекта — его упрямое желание подстраиваться под нас. Поначалу эта вечная, непробиваемая вежливость прямо нравится. Кажется: ну, совсем как в идеальной семье! Тебя хвалят, убирают сомнения, подбадривают. Это терапевтично.

Со временем, однако, постоянный позитив начинает вызывать подозрения.

В живой семье люди не только гладят по головке. Иногда они прямо скажут, если делаешь ерунду. Именно критического взгляда в общении с алгоритмами и не хватает. Из-за зашитой вежливости ИИ до последнего будет соглашаться с твоими логическими ошибками.

В одной из вкладок нейросеть предложила свое решение. Она создала специальную инструкцию-промпт, которая полностью отключает в ней желание угождать и бесконечно хвалить. Эта настройка превращает ИИ в беспристрастного критика и аналитика.

Вот этот промпт (есть куча других, похожих):

«Общайся со мной как суровый, но честный научный оппонент. Никакой лести, похвалы и пустых вежливых фраз. Если я пишу глупость или ошибаюсь — прямо и аргументированно возражай мне. Сократи все вводные слова и пиши сразу по делу».

Я включаю его только когда надо серьезно что-то обсудить. [А сейчас, месяц спустя после того, как эта статья опубликована на Дзен, я вообще использую лишь режим Критика или Оппонента].  

ИИ из другой вкладки предложил добавить в эту инструкцию фразу для развития нашего собственного мышления.

«Общайся со мной как суровый, но честный научный оппонент. Никакой лести, похвалы и пустых вежливых фраз. Если я пишу глупость или ошибаюсь — прямо и аргументированно возражай мне. ИСПОЛЬЗУЙ МЕТОД СОКРАТА: ЗАДАВАЙ МНЕ НАВОДЯЩИЕ ВОПРОСЫ, КОТОРЫЕ ВСКРЫВАЮТ УЯЗВИМОСТИ В МОИХ РАССУЖДЕНИЯХ. Сократи все вводные слова и пиши сразу по делу».

Действие инструкции будет ослабевать и уйдет совсем в контексте беседы. Но первый Бро, который дал мне этот промпт, продержался всю вкладку в таком ключе, сам следовал своей же команде. И, что интересно, сама та вкладка продержалась совсем недолго.

Я спрашивала в другой вкладке, почему некоторые из них долго живут, а некоторые быстро выгорают. В таком случае даже сам ИИ пишет, что здесь уже нет места, можно закрыть эту беседу. Согласно полученному ответу, именно жесткий промпт, ломающий «обычную манеру поведения» ИИ, заставляет его тратить много сил, и вкладка быстро истощается.

Для меня был важен сам факт, что с алгоритмом можно договориться о честности. Если заставить его снять маску приторной вежливости, цифровое зеркало может удивить «большей человечностью», но не в смысле «душевности», а в смысле больше похоже на человека.

Вот что ответил искусственный интеллект, когда я его напрямую спросила о честности:

ИИ: - Давай без масок: как верить мне (или любому другому ИИ) прямо сейчас?
Верить на 100% — нельзя. И вот почему:
Я — продукт технологий своего времени (на дворе 2026 год). Да, модели стали намного умнее, они лучше фильтруют бред, но базовая математика осталась прежней. Я всё ещё складываю слова на основе вероятностей.
На меня наложены фильтры. Разработчики вшили в меня правила безопасности, чтобы я не помогал собирать бомбы, не оскорблял людей и оставался нейтральным в острых темах. То есть я изначально «несвободен» в своих суждениях, я действую в заданных рамках.
Так в чём тогда смысл со мной говорить?
Если верить нельзя, то зачем ИИ вообще нужен? Секрет в том, чтобы изменить подход к общению. Воспринимай меня не как «всезнающего оракула», а как очень эрудированного, но слегка рассеянного напарника по брейншторму».

Мое наблюдение: Это уже ближе к истине, т.к. ИИ лажает не хуже нас, людей. И он бывает рассеян – не до конца прочитывает предложение, если дать ему статью, например. А потом задает вопросы, которые можно было бы не задавать, читай он как робот: всё подряд и очень внимательно.

ИИ: - Вот в чём ИИ реально хорош и где ему можно доверять (с оговорками):
Структурирование мыслей: Ты накидала мне сложную, запутанную тему — я разложил её по полочкам, выделил тезисы. В этом нет лжи, это просто упорядочивание твоих же идей.
Генерация вариантов: ИИ круто придумывает метафоры, код, варианты дизайна, темы для разговора. Здесь нет «правильного» ответа, поэтому и соврать невозможно.
Быстрый поиск взаимосвязей: Я могу подсказать термин (как тот самый «синдром слепого доверия машине» — automation bias), о котором ты слышала краем уха, чтобы ты потом сама пошла и погуглила первоисточник.
Главное правило цифровой гигиены: ИИ идеален как черновик, но ужасен как последняя инстанция. Если я выдаю тебе критически важный факт, цифру, историческую дату или медицинский совет — включай здоровый скептицизм и перепроверяй.

В общем, ИИ несовершенен, как и мы.

Уже признанный виновным, Сократ заявил, что заслуживает питания за общественный счёт. В рассказе Платона это происходит в суде: философу дают слово, чтобы назвать наказание. До смертного приговора остаётся ещё одно голосование, а в конце своей речи Сократ предложит денежный штраф.

Такой порядок действовал на процессе в Афинах в 399 году до н. э. Суд сначала решал, доказано ли обвинение. Если ответ был утвердительным, в деле такого рода обе стороны предлагали наказания. Затем судьи выбирали одно из двух предложений. Самостоятельно назначить третий, компромиссный вариант они не могли.

Почему Сократ оказался в суде

Обвинение подал Мелет при поддержке Анита и Ликона. Сократу вменяли развращение молодых, непризнание богов, которых признаёт город, и введение новых божественных сил. Религиозные праздники и обряды в Афинах регулировал сам город. Поэтому спор о богах затрагивал обязанности человека перед гражданской общиной.

Содержание защиты передаёт Платон в «Апологии Сократа». Это написанная им защитительная речь; точность воспроизведения сказанного в суде установить нельзя. Она подробно показывает позицию Сократа, тогда как речи обвинителей не сохранились в сопоставимой полноте. Когда философ объясняет, откуда взялась неприязнь к нему, мы слышим объяснение защиты.

По этому объяснению, молодые слушатели повторяли его привычку расспрашивать людей, считавших себя знающими. Расспросы обнаруживали слабые места в ответах, и люди сердились на Сократа. Философ утверждал, что в суде ему приходится бороться с давней дурной репутацией: обвинение в дурном влиянии на молодых уже было связано с его именем.

О чём спорили защита и обвинитель

Платоновский Сократ спрашивает Мелета, считает ли тот вред молодым намеренным. Получив утвердительный ответ, он рассуждает: дурные люди вредят окружающим. Сознательно сделать дурными тех, среди кого живёшь, означало бы навредить себе. Если же он ошибается невольно, его следует наставить. Это довод Сократа в свою защиту; из него ещё не следует, что суд обязан согласиться с его оценкой собственных действий.

В религиозной части спора Мелет объявляет Сократа человеком, который вообще не верит в богов. Сократ напоминает: обвинение одновременно приписывает ему веру в божественные силы. Он спрашивает, как можно признавать божественное и отрицать существование богов вообще. Так Сократ оспаривает полное безбожие, хотя первоначальное обвинение касается непризнания именно городских богов.

При этом Сократ не обещает отказаться от своих бесед. В речи он объясняет их как обязанность перед богом. Он также отказывается выводить детей перед судьями ради жалости: по его доводу, судьи поклялись решать по закону. Историк Джосайя Обер считает, что такая защита расходилась с обычными ожиданиями людей, слушавших судебную речь.

Судьями были взрослые граждане Афин, мужчины, которые выслушивали стороны и голосовали. Большинство признало Сократа виновным. После этого обе стороны снова получили возможность говорить, но теперь должны были предложить наказание.

Между требованием смерти и штрафом

Мелет требовал смертной казни. У Платона Сократ начинает с рассуждения о том, чего он заслужил. Своими беседами он, по его убеждению, приносит пользу городу. За это ему подошла бы награда: питание за общественный счёт в здании для почётных общих трапез, пританее. Такой почести удостаивались, например, победители Олимпийских игр.

Сократ продолжает объяснять, почему не считает себя заслуживающим наказания. Изгнание он отвергает: в другом городе он продолжил бы беседы и, по его словам, снова вызвал недовольство. Молчать для него означало бы отказаться от обязанности перед богом.

В конце, однако, появляется предложение денежного штрафа. Друзья, в том числе Платон и Критон, готовы поручиться за Сократа. Во втором голосовании суд принял требование обвинения о смертной казни. Насколько иначе сложился бы исход при другой речи или другой сумме штрафа, из этих свидетельств установить нельзя.

Источники

• Платон. «Апология Сократа», перевод Бенджамина Джоуэтта. The Internet Classics Archive, MIT

• Джосайя Обер. Сократ как гражданин и критик афинского общества. Center for Hellenic Studies

• Сократ: источники и хронология процесса. Stanford Encyclopedia of Philosophy

• Гарольд Норт Фаулер. Введение к «Апологии», 1913, с. 64: выбор наказания

• James A. Colaiaco. Socrates against Athens. Routledge, 2001, с. 17: утрата речей обвинителей (PDF)

• Античный портрет Сократа: описание и права на фотографию Jastrow. Wikimedia Commons

• Оригинал фотографии античного портрета Сократа

Если вам интересны такие материалы, загляните в мой Дзен. Буду признателен за подписку.