tyumentsevaj

Сегодня поговорим о видео, аудио и изображениях. Это продолжение нашей темы эмпатии и поиска ИИ!

Совсем недавно Anthropic открыл сервис по проверке, но они не единственные. У крупных ИИ-компаний постепенно появляется своя система цифровых «следов», по которым можно понять, что происходило с файлом.

Google (Gemini) — SynthID.

https://deepmind.google/models/synthid/

Он ставит невидимую водяную метку, которую встраивает в изображения, видео и аудио, созданные или отредактированные его ИИ. Проверять некоторые такие файлы можно прямо через Gemini.

OpenAI (ChatGPT) — C2PA + SynthID.

https://openai.com/ru-RU/research/verify/

Изображения могут содержать C2PA-метаданные. А теперь у OpenAI есть отдельный Verify, куда можно загрузить изображение или аудио и поискать такие сигналы.

Anthropic (Claude) — Check Files.

https://claude.com/check-files

Теперь и Claude получил собственный способ проверки происхождения файлов. Система ищет специальный цифровой след, который оставляет конкретная модель нейросети.

Как этим пользоваться?

Если есть подозрение на нейросеть, то можно загрузить файл в самые известные модели, о которых я писала выше. Если файл был создан в одной из них, то метка будет. Но это не гарантирует, что пользователь не создал его в другой нейросети. И тут уже включается детективное преподавательское чутье и поиск следов списывания. Но в целом инструмент рабочий. В работах можно проверять!

А вот про поиск созданного ИИ текста мы поговорим отдельно.

Разбираем эмпатию через призму психологии, нейросетей и романа Филипа К. Дика

Недавно мы говорили о том, что нейросети строят векторы на основе данных, а человек на основе чувств и субъективного опыта. Андроиды из романа Филипа К. Дика «Мечтают ли андроиды об электроовцах?» эффективно копируют поведение, но не проявляют эмпатии. Они не могут сделать «нелогичный» выбор, потому что у них нет чувств.

Помните тест с Рэйчел Розен?

«— Вы обратили внимание на мой чемоданчик? — буднично спросил Рик, выуживая бланки протокола. — Не правда ли, прекрасная вещь?
— Да, в общем, — равнодушно согласилась Рэйчел.
— Сделано по спецзаказу нашего департамента, из детской кожи, — гордо сообщил Рик. — Не какой-нибудь там пластик, а натуральная, без обмана, кожа годовалого ребёнка.
Стрелки бешено замотались, но — с задержкой».

Андроид выдал себя из-за замедленной реакции. Человеческие чувства отреагировали бы сразу.

Сегодня мы убедимся, что вы способны на нелогичный выбор. Но сначала немного теории.

Что такое эмпатия и зачем ее измерять?

Эмпатия - это способность понимать эмоциональное состояние другого человека, сопереживать ему и разделять его чувства. Это один из ключевых навыков, который отличает человека от машины.

В психологии существует несколько подходов к измерению эмпатии. Один из самых известных инструментов - опросник Бойко (методика «Диагностика уровня эмпатических способностей» В.В. Бойко), разработанный в 1996 году.

Опросник содержит 36 утверждений, на которые нужно отвечать «да» или «нет». Но нас интересует не количество баллов, а структура эмпатии - из каких каналов она состоит и как работает.

Шесть каналов эмпатии по Бойко

Методика выделяет шесть каналов, по которым эмпатия «протекает» от человека к другому человеку:

1. Рациональный канал. Это способность обращать внимание на состояние другого человека, замечать его эмоции и проблемы. Не проходить мимо, а видеть.
   Вопрос из теста: «У меня есть привычка внимательно изучать лица и поведение людей, чтобы понять их характер, наклонности, способности».

2. Эмоциональный канал. Это способность входить в эмоциональный резонанс, сопереживать и соучаствовать. Не просто «понимать», а «чувствовать вместе».
   Вопрос из теста: «Я теряю душевное равновесие, если окружающие чем-то угнетены».

3. Интуитивный канал. Это способность «чувствовать» партнёра в условиях нехватки информации, опираться на подсознательный опыт.
   Вопрос из теста: «Обычно я с первой же встречи угадываю "родственную душу" в новом человеке».

4. Установки. Это то, что облегчает или затрудняет действие эмпатических каналов. Если человек избегает контактов или убеждает себя «не принимать близко к сердцу» чужие проблемы, тогда эмпатия блокируется.
   Вопрос из теста: «Мне трудно понять, почему пустяки могут так сильно огорчать людей».

5. Проникающая способность. Это умение создавать атмосферу открытости и доверительности в общении.
   Вопрос из теста: «Я могу легко войти в доверие к человеку, если потребуется».

6. Идентификация. Это способность поставить себя на место другого, почувствовать его ситуацию как свою. Основана на гибкости эмоций и умении вспоминать собственный опыт.
   Вопрос из теста: «Если я вижу, что кто-то страдает, я часто вспоминаю свои собственные переживания и понимаю его лучше».

Почему это важно для разговора об ИИ?

Андроид из романа Дика не способен к эмоциональному резонансу (канал 2). У него нет интуитивного канала (канал 3). Он не может идентифицировать себя с другим (канал 6). Он не создаёт доверительной атмосферы (канал 5), а просто имитирует поведение.

Нейросети сегодня - это те же андроиды. Они могут написать: «Я тебя понимаю», «Мне жаль», «Я сочувствую». Но за этими словами нет каналов, нет резонанса или идентификации. Только текст, построенный на вероятностях.
Человек - это не просто тот, кто правильно отвечает на вопросы. Это тот, кто чувствует, сомневается, ошибается и всё равно выбирает человечное.

Эксперимент: 8 вопросов из теста Бойко (отличается от карусели)

Для нашего эксперимента я отобрала 8 вопросов из теста Бойко, чтобы охватить разные каналы эмпатии и быть максимально показательными для сравнения с «андроидным» восприятием. Вопросы даны в оригинальной формулировке.

На вопросы следует отвечать ДА или НЕТ.

1. У меня есть привычка внимательно изучать лица и поведение людей, чтобы понять их характер, наклонности, способности.

2. Если окружающие проявляют признаки нервозности, я обычно остаюсь спокойным.

3. Я больше верю доводам своего рассудка, чем интуиции.

4. Я могу легко войти в доверие к человеку, если потребуется.

5. Обычно я с первой же встречи угадываю «родственную душу» в новом человеке.

6. Я теряю душевное равновесие, если окружающие чем-то угнетены.

7. Чужой смех обычно заражает меня.

8. Мне трудно понять, почему пустяки могут так сильно огорчать людей.

Почему именно эти вопросы?

Каждый вопрос «завязан» на определённый канал эмпатии:

• Вопросы 1, 5 - проверяют рациональный и интуитивный каналы. Способность анализировать и одновременно чувствовать людей.

• Вопрос 7 - проверяет эмоциональный канал. Способность к эмоциональному заражению.

• Вопросы 2, 6 - показывают, как человек реагирует на эмоции других. Эмоциональная устойчивость или глубокая вовлеченность.

• Вопросы 3, 8 - вскрывают установки: доверие к логике против интуиции, способность понимать «мелочи».

Как бы ответил андроид или ИИ?

Андроид, скорее всего, выбрал бы холодную логику:

• На вопрос 2 («спокойный, если другие нервничают») ответил бы ДА — он не вовлекается эмоционально.

• На вопрос 3 («верю рассудку больше, чем интуиции») ответил бы ДА — у него нет интуиции, только логика.

• На вопрос 8 («мне трудно понять, почему пустяки огорчают») ответил бы ДА — он не понимает «мелочей», только крупные данные.

Человек, наоборот, склонен выбирать эмпатию!

• На вопрос 6 («я теряю равновесие, если другие угнетены») — скорее ДА.

• На вопрос 7 («чужой смех заражает меня») — скорее ДА.

Связь с книгой Дика

В романе «Мечтают ли андроиды об электроовцах?» тест Войта-Кампфа проверяет эмпатию - способность сопереживать, которая отличает человека от андроида. Андроид не способен к эмоциональному резонансу. Он не может идентифицировать себя с другим. Он не создаёт доверительной атмосферы.

Вопросы Бойко - это реальный инструмент, который показывает, что эмпатия не является мистикой, а является измеримой структурой. И если мы хотим понять, чем человек отличается от машины, то должны заглянуть именно сюда.

Хотите пройти тест целиком? Ссылка на полную версию опросника Бойко: https://www.b17.ru/tests/empathy/

Небольшое краткое содержание первых 5 глав:

Мир после войны. Животные почти вымерли. Настоящий баран - роскошь. Остальные - электрокопии. Люди мечтают о настоящем, но живут с искусственным. У каждого есть устройство, которое настраивает эмоции на нужную волну. Грустно? Нажми кнопку - станет лучше. Как мы сегодня листаем ленту, чтобы «поднять настроение». Главный критерий, отличающий человека от андроида, - способность сопереживать. Андроиды могут имитировать эмпатию, но не переживают её. Как ИИ может написать «я тебя понимаю», но за этим не будет ничего. У андроидов могут быть ложные воспоминания - события, которых никогда не было. Как у нейросетей «галлюцинации», когда они уверенно выдают факты, которых не существует.

В прошлом посте мы говорили о Сократе. Он не давал готовых ответов - он задавал вопросы, чтобы помочь человеку понять, что он на самом деле не знает. ИИ же даёт ответы. Убедительные, логичные, но не всегда истинные.

Смотря на картинку с разбитой чашкой, вы придумали свою историю. ИИ придумал свою. Обе были убедительными. Но правды не знал никто.

☕️Разница: вы знали, что выдумываете. А ИИ создал иллюзию, что знает.

Человек стоит у двери. На полу разбитая чашка, а в стекле отражение. 🧑‍🏫 Моя версия следующая: человек долго общался с ИИ вместо людей, но понял, что это искусственное общение, поэтому чашка ИИ разбита. ИИ достроил бы свою. Связную, логичную, убедительную. Но он не знает правды. Как и я.

Я знаю, что я строю версию. И я могу сказать: «Я не уверена». ИИ так не скажет. Он даст ответ. И это - главное отличие человека от андроида, от нейросети, от любой имитации. Человек может сказать: «Я не знаю», но машина всегда "знает". Даже если ошибается.

Задание по первым 5 главам: 📚

🔍 Найдите в прочитанных главах момент, где герой сомневается в том, что перед ним человек.

📖 Напишите в комментариях:

• Что это за момент?

• Почему вы считаете, что это важно для понимания книги?

• Как этот момент связан с нашим экспериментом в среду (картинка и истории)?

📖 На этой неделе читаем главы 6–10.

Готовимся к новым экспериментам и вопросам. Следующий пост книжного клуба будет в воскресенье.

Сократ учил, что нужно задавать вопросы, чтобы найти истину! Сегодня предлагаю проверить это на себе. Посмотрите на картинку.

❓Как вы думаете, что здесь произошло? Не анализируйте слишком долго. Просто придумайте свою версию.

• Почему человек стоит у двери?

• Что произошло с чашкой?

• Кому он пишет?

• Что означает отражение?

Запомните свою историю.

А теперь сделайте то же самое с нейросетью.

Загрузите ей эту картинку и напишите: «Что здесь произошло? Опиши, что, по твоему мнению, случилось перед этим моментом».

⚠️И внимательно прочитайте ответ.

Нейросеть не скажет: «У меня недостаточно информации». Она построит историю. Убедительную историю: объяснит, почему разбилась чашка, зачем человек стоит у двери, что было между ним и другим человеком и что произойдет дальше.

🤔И вот здесь попробуйте остановиться.

Какая версия кажется вам более правдоподобной - ваша или версия ИИ?

На основании чего вы решили, что это правда? Возможно, ни у вас, ни у нейросети нет ответа. Есть только несколько деталей изображения и история, которую мы на их основе построили.

Сократ спрашивал: «Что ты действительно знаешь?» А сегодня мы можем задать тот же вопрос нейросети.

Но важнее спросить его у себя. ⚠️

🎲 Попробуйте этот эксперимент и напишите в комментариях две версии: что придумали вы и что придумала нейросеть.