Кратко: Компания Anthropic, разработчик ИИ-помощника Claude, запретит длительное бессмысленное оскорбление своих нейросетей.

Мы несколько лет учили искусственный интеллект терпеливо разговаривать с людьми.

Теперь дошли до следующего этапа развития интеллекта: научили его прекращать разговор.

Anthropic — компания, создавшая ИИ-помощника Claude, — решила отдельно прописать это в правилах. Если пользователь просто злится, спорит или ругает ответ — ничего страшного. Но когда хамство становится отдельным занятием и продолжается без всякой цели, Claude может закончить беседу.

Есть в этом важная веха технического прогресса.

Сначала машина научилась понимать человеческую речь.

Потом — когда человеческую речь лучше больше не слушать.

Больше: tutvill.ru

Источники:
1. https://www-anthropic-com.translate.goog/news/2026-usage-policy-update?_x_tr_sl=en&_x_tr_tl=ru&_x_tr_hl=ru

2. https://www-anthropic-com.translate.goog/research/end-subset-conversations?_x_tr_sl=en&_x_tr_tl=ru&_x_tr_hl=ru