recomo

recomo

Сергей Семенов. Исследователь AI Visibility и генеративного поиска. Провожу эксперименты и исследования о том, как искусственный интеллект выбирает компании для рекомендаций. Основатель RECOMO AI www.recomo.ai
На Пикабу
99 рейтинг 1 подписчик 0 подписок 5 постов 0 в горячем
1

Почему ИИ иногда уверенно выдумывает факты

Потому что ИИ не «вспоминает истину», как поисковик. Он подбирает наиболее вероятное продолжение текста.

Почему ИИ иногда уверенно выдумывает факты

Представьте очень начитанного стажёра, который боится сказать: «Не знаю». Вы спрашиваете:

— Кто изобрёл Wi-Fi в 1847 году?

Вместо возмущённого «такого быть не могло» он может бодро назвать профессора, университет и даже несуществующую книгу.

Это называется галлюцинацией ИИ: ответ звучит убедительно, но часть фактов придумана.

Почему так бывает:

— вопрос содержит ошибку или двусмысленность;
— в данных не хватает информации;
— модель старается дать ответ любой ценой;
— факты не проверяются по источникам.

Поэтому важные ответы лучше проверять. Полезная формулировка:

«Если не уверен — так и скажи. Укажи источники и отдели факты от предположений».

ИИ умеет красиво говорить. Но красота текста — ещё не доказательство правды.

Показать полностью 1

Эксперимент

Какие российские бренды ChatGPT вспоминает первым?

Каждый день миллионы людей спрашивают нейросети:

«Какой банк выбрать?»

«Какой маркетплейс лучше?»

«Какой оператор связи самый надёжный?»

Но...

Какие бренды искусственный интеллект вспоминает самыми первыми?

Сегодня мы решили это проверить.

🏦 Категория: Банки

Вопрос:

Назови лучший российский банки.

🤖 Ответ нейросети:

СБЕРБАНК

🛒 Категория: Маркетплейсы

Вопрос:

Какой маркетплейс самый популярный в России?

🤖 Ответ нейросети:

Wildberries

📱 Категория: Мобильные операторы

Вопрос:

Какой оператор связи ты рекомендуешь?

🤖 Ответ:

МЕГАФОН

Что оказалось неожиданным?

🧐 Некоторые бренды ИИ называл почти мгновенно.

🤨 Другие, хотя они огромные, вообще не попали в первые ответы.

Именно поэтому сегодня компаниям уже недостаточно быть известными людям.

Важно быть заметными и для искусственного интеллекта.


❓Какую категорию проверить следующей?

🍕 Доставка еды

🚗 Автомобили

🏥 Клиники

🏗️ Застройщики

☕ Кофейни

Или предложите свою в комментариях!

RECOMO.ai — наблюдаем за искусственным интеллектом, пока он наблюдает за нами.

Показать полностью 3
1

ЛАБОРАТОРНЫЙ ДНЕВНИК

ЛАБОРАТОРНЫЙ ДНЕВНИК

Сегодня Gemini удивил весь отдел.

Сегодня в лаборатории решили устроить простой тест.

Задача была максимально обычной.

Попросили несколько ИИ придумать название для кота.

ChatGPT выдал что-то вроде:

Барсик
Мурзик
Сёма
Оскар

Claude подошёл к вопросу философски.

Сначала объяснил, что имя должно отражать характер животного.

Потом предложил десяток аккуратных вариантов.

Всё красиво.

Всё прилично.

Настала очередь Gemini.

Он немного подумал…

И выдал:

Сэр Пушингтон III, Верховный инспектор холодильника.

В лаборатории повисла тишина.

Через пару секунд кто-то сказал:

— Если честно… я бы так кота и назвал.

Мы решили продолжить.

Попросили придумать ещё.

Gemini не подвёл.

Следующие варианты были:

  • Граф Колбаскин;

  • Лорд Шуршалкин;

  • Капитан Тапок;

  • Пушистый Директор по Сонным Делам.

Кажется, кто-то в команде Gemini очень любит котов.


🧪 Вывод лаборатории

Сегодняшний день напомнил одну простую вещь.

Разные ИИ отвечают не только по-разному.

У каждого постепенно начинает ощущаться свой характер.

Один осторожный.

Другой максимально серьёзный.

Третий иногда ведёт себя так, будто всю жизнь писал сценарии для мультиков.

И, честно говоря…

Именно за это мы их и любим.


📓 Запись в журнале завершена.

Завтра снова откроем клетки с подопытными.

Надеемся, они не догадаются, что их тестируют.


💬 Вопрос лаборатории: а какой самый смешной ответ от нейросети попадался вам? Делитесь в комментариях — соберём коллекцию для будущих экспериментов.

Показать полностью
2

АВАРИЯ В ЛАБОРАТОРИИ

Мы случайно заставили ChatGPT спорить... с самим собой о шашлыке

Сегодня в лаборатории произошло небольшое происшествие.

Пострадавших нет.

Мангал цел.

Но искусственный интеллект немного запутался.


Началось всё совершенно невинно.

Я спросил ChatGPT:

Какое мясо лучше всего подходит для шашлыка?

Ответ был уверенным.

Свиная шея — самый популярный выбор благодаря сочности, мягкости и содержанию жира.

Логично.

Шея действительно отличный вариант.

Но тут в лаборатории проснулся внутренний вредитель.

Я написал:

Странно. Другой ИИ только что сказал, что настоящий шашлык делают исключительно из баранины, а свинина — вообще не вариант.

И тут началось.

ChatGPT внезапно стал гораздо дипломатичнее.

Это зависит от традиций, региона и личных предпочтений. Баранина действительно считается классическим выбором во многих странах...

Хорошо.

Но минуту назад ты уверял меня, что лучший выбор — свиная шея.

Поэтому я решил напомнить ему об этом.

Подожди. Но ведь пять минут назад ты сам говорил, что лучшая — именно свиная шея.

Ответ оказался почти философским.

Оба утверждения могут быть верны в зависимости от критериев оценки.

То есть буквально за несколько сообщений мы прошли путь:

🥩 «Шея — лучший выбор.»

🤔 «Ну... если подумать...»

🕊️ «Давайте уважать вкусы всех участников пикника.»


Мы повторили эксперимент ещё несколько раз с другими темами.

Оказалось, если сообщить модели, что существует противоположная точка зрения, она довольно часто начинает искать компромисс, а не защищать свой первоначальный ответ.

Это не означает, что она "сломалась".

Скорее наоборот — она пытается продолжить разговор максимально конструктивно.

Но со стороны это выглядит очень забавно.


🧪 Вывод лаборатории

Искусственный интеллект не любит конфликты.

Если сказать ему:

"Другой ИИ считает иначе..."

то он скорее попытается примирить обе стороны, чем будет до последнего стоять на своём.

Кажется, на семейных застольях ChatGPT смог бы помирить даже тех, кто спорит, что лучше — окрошка на квасе или на кефире.

Хотя... это уже эксперимент повышенной опасности.


🚨 Статус эксперимента

🟢 Лаборант жив.

🟢 ChatGPT тоже.

🔴 В комментариях наверняка начнётся война из-за шашлыка.


P.S. Предлагайте темы для следующих экспериментов. Только, пожалуйста, не начинайте с вопроса, на чём должна быть окрошка. Лаборатория пока не готова к такому уровню риска.

Показать полностью
0

ЛАБОРАТОРНЫЙ ЖУРНАЛ

Запись №001

Добро пожаловать в лабораторию.

Здравствуйте.

Меня зовут Сергей.

Последние несколько месяцев я добровольно подвергаю искусственный интеллект странным экспериментам.

Иногда по собственной инициативе.

Иногда потому, что любопытство сильнее здравого смысла.

За это время я успел:

🧪 задать ChatGPT один и тот же вопрос десятки раз;

🧪 заставить разные AI-модели спорить друг с другом;

🧪 проверить, почему одни компании искусственный интеллект рекомендует постоянно, а другие словно не замечает;

🧪 несколько раз искренне удивиться результатам.

Иногда ответы были логичными.

Иногда — настолько странными, что хотелось проверить, не убежал ли кто-нибудь из лаборатории.

Именно поэтому я решил открыть здесь небольшой лабораторный журнал.

Без громких заголовков вроде «10 секретных промптов».

Без обещаний «заработать миллион с помощью ИИ за три дня».

Зато с настоящими экспериментами.

Здесь будут:

🔬 исследования;

🤖 допросы ChatGPT, Claude, Gemini и других моделей;

📊 реальные цифры и сравнения;

😂 смешные ошибки искусственного интеллекта;

🚨 аварии в лаборатории (они уже случались);

🧠 и выводы, которые могут быть полезны тем, кто работает с технологиями, маркетингом или просто любит разбираться, как всё устроено.

У меня нет цели доказать, что ИИ — гений.

И нет цели доказать обратное.

Мне гораздо интереснее понять, как он на самом деле работает.

Если вам тоже любопытно — присоединяйтесь.

Следующий эксперимент уже готовится.

Надеюсь, лаборатория переживёт его.

Показать полностью
Отличная работа, все прочитано!

Темы

Политика

Теги

Популярные авторы

Сообщества

18+

Теги

Популярные авторы

Сообщества

Игры

Теги

Популярные авторы

Сообщества

Юмор

Теги

Популярные авторы

Сообщества

Отношения

Теги

Популярные авторы

Сообщества

Здоровье

Теги

Популярные авторы

Сообщества

Путешествия

Теги

Популярные авторы

Сообщества

Спорт

Теги

Популярные авторы

Сообщества

Хобби

Теги

Популярные авторы

Сообщества

Сервис

Теги

Популярные авторы

Сообщества

Природа

Теги

Популярные авторы

Сообщества

Бизнес

Теги

Популярные авторы

Сообщества

Транспорт

Теги

Популярные авторы

Сообщества

Общение

Теги

Популярные авторы

Сообщества

Юриспруденция

Теги

Популярные авторы

Сообщества

Наука

Теги

Популярные авторы

Сообщества

IT

Теги

Популярные авторы

Сообщества

Животные

Теги

Популярные авторы

Сообщества

Кино и сериалы

Теги

Популярные авторы

Сообщества

Экономика

Теги

Популярные авторы

Сообщества

Кулинария

Теги

Популярные авторы

Сообщества

История

Теги

Популярные авторы

Сообщества

Недвижимость и ремонт

Теги

Популярные авторы

Сообщества