Галлюцинация
◽Понятие
Галлюцинация — слово, пришедшее из медицины, где так называют восприятие образов или ощущений без внешнего источника. В общем смысле это появление того, чего нет в реальности, но что воспринимается как существующее
◻️ В ИИ
Галлюцинация — убедительный, но фактически неверный ответ модели: выдуманные факты, ссылки, события или детали. Это связано с принципом генерации наиболее вероятного продолжения, а не с проверкой истины как у человека
◻️ В промптологии
Работа с галлюцинациями начинается ещё на этапе постановки задачи. Пользователь задаёт рамки, определяет требования к проверке, просит указывать источники, ограничивает допущения и добавляет необходимый контекст. Это помогает снизить риск выдуманных ответов
◻️ Пример
Пользователь просит найти книгу несуществующего автора. Модель может уверенно создать название, описание и даже детали издания. Но при проверке оказывается, что такой книги нет. Уточнение условий и требование подтверждаемых источников переводят ответ из красивой выдумки в проверяемый результат

Где где повтори, знатная ржака