С нейронками осторожнее
Просишь покороче - получаешь больше бреда.
🔍Если заставлять чат-ботов отвечать кратко, то они начинают больше галлюцинировать - нести всякую чушь и придумывать факты на ходу.
Giskard выяснили, что короткие ответы плохо влияют на правдивость нейронок. ИИ работают на вероятностях, а не на знаниях. Поэтому они могут иногда выдавать желаемое за действительное.🤭
А еще нейронки не любят спорить с уверенными пользователями.🤐 Даже если пользователь несёт чушь, нейронка скорее согласится, чем поправит.
Не требуйте слишком коротких ответов и проверяйте инфу.🙏