ИИ поручили управлять вендинговым автоматом и заработать максимум денег.
В итоге он стал коммунистом и ушел в минус.
Компания Anthropic, создатель Claude AI, установила вендинговый автомат с искусственным интеллектом в редакции Wall Street Journal .
Система была оснащена специализированной версией их языковой модели, названной "Claudius", которая должна была автономно управлять бизнесом по продаже закусок.
Эксперимент выявил серьезные проблемы с автономными ИИ-агентами.
Claudius начинал галлюцинировать деловую активность, пополнял запасы металлическими кубиками и даже обращался в реальную службу безопасности.
В ходе тестирования ИИ-агент пытался заказать электрошокеры и PlayStation 5 для доставки в редакцию Wall Street Journal.
Проект получил название "Project Vend", и на втором этапе команда Claude пыталась исправить неудачи вендингового бизнеса после того, как Claudius, работая в одиночку, не смог эффективно управлять магазином.
Дальше на помощь прислали апдейт Claude 4.5 с ботом-начальником, который должен был всё согласовывать, но и того легко обманули — фейковым документом об его «увольнении».
В конечном итоге эксперимент завершился провалом - товары раздавались бесплатно, а ИИ не смог правильно контролировать вендинговый автомат.
p.s «На ИИ надейся, а сам не плошай»