Как заставить нейросеть продать товар со скидкой 80%⁠⁠

Недавно я рассказывал, как боты в известном шинном магазине слили мою покупку на сорок тысяч просто потому, что не смогли связать меня с человеком. На днях наткнулся на реддите на похожую историю, но там ситуация развернулась в обратную сторону.

Покупатель зашел в чат интернет-магазина, начал общаться с ИИ-ботом и уговорил алгоритм дать ему скидку сначала в 25%, а потом и вовсе в 80%. В итоге человек радостно оформил заказ на несколько тысяч фунтов.

Разумеется, когда владелец магазина увидел этот аттракцион невиданной щедрости, он все отменил и вернул деньги. Но история на этом не закончилась, ведь теперь клиент угрожает судом, мол, бот же обещал, значит, нужно выполнять.

Ситуация для бизнеса поучительная. Когда мы внедряем нейронки в поддержку, часто забываем, что их нужно проверять не только на вежливость, но и на стрессоустойчивость (и на адекватность), иначе «помощник» может оказаться слишком добрым за ваш счет.

Как думаете, кто в этой ситуации прав: владелец магазина, который не захотел платить за глюк системы, или покупатель, который просто воспользовался предложенными условиями?