Почему ИИ иногда уверенно выдумывает факты
Потому что ИИ не «вспоминает истину», как поисковик. Он подбирает наиболее вероятное продолжение текста.
Представьте очень начитанного стажёра, который боится сказать: «Не знаю». Вы спрашиваете:
— Кто изобрёл Wi-Fi в 1847 году?
Вместо возмущённого «такого быть не могло» он может бодро назвать профессора, университет и даже несуществующую книгу.
Это называется галлюцинацией ИИ: ответ звучит убедительно, но часть фактов придумана.
Почему так бывает:
— вопрос содержит ошибку или двусмысленность;
— в данных не хватает информации;
— модель старается дать ответ любой ценой;
— факты не проверяются по источникам.
Поэтому важные ответы лучше проверять. Полезная формулировка:
«Если не уверен — так и скажи. Укажи источники и отдели факты от предположений».
ИИ умеет красиво говорить. Но красота текста — ещё не доказательство правды.






