Ответ на пост «ИИ врёт и не краснеет»
ИИ никогда не врет!
просто немножко болеет.
В искусственном интеллекте (ИИ) галлюцинация (также иногда называемая бредом)[1] — это уверенная реакция ИИ, которая не подтверждается данными его обучения, или вымышленные ответы, не имеющие отношения к действительности[2]. Например, галлюцинирующий чат-бот, не зная о доходах Tesla, может выбрать случайное число (например, «13,6 миллиарда долларов»), которое чат-бот сочтет правдоподобным, а затем продолжать ложно и неоднократно настаивать на том, что доход Tesla составляет 13,6 миллиарда долларов, без каких-либо признаков критического пересмотра того, что цифра была продуктом его собственного воображения[3].
Такие явления называются «галлюцинациями», по аналогии с явлением галлюцинации в психологии человека. Аналогично тому, что человеческая галлюцинация — это восприятие человека, которое не может быть ощутимо связано с той частью внешнего мира, которую человек в настоящее время непосредственно наблюдает с помощью органов чувств, галлюцинация ИИ — это уверенный ответ ИИ, который не может быть обнаружен в его входных данных.
