Помимо известных действенных способов улучшить ответ ChatGPT, есть токсичный, но эффективный способ психологического манипулирования. Обо всем по порядку
Есть несколько способов улучшить качество ответа ChatGPT:
Chain-of-thoughts
Он же Цепочка мыслей - это когда мы просим модель думать вслух. Например, если вы спрашиваете, как решить математическую задачу, модель не только даст ответ, но и покажет, как она его нашла, шаг за шагом, словно рассказывает историю.
In-context learning
Обучение в контексте - это когда модель учится на том, что вы ей только что сказали. Если вы покажете ей несколько примеров перевода с английского на русский, она будет помнить и использовать это, чтобы лучше переводить дальше.
Few-shot
Обучение на небольшом количестве примеров - это как быстрое обучение. Вы даете модели всего пару примеров, и она учится на них. Если вы покажете ей, как перевести несколько предложений, она попытается использовать это знание для перевода других похожих предложений.
Так вот, теперь к ним добавился метод эмоциональных затравок. Как и людьми чат-ботом можно манипулировать, акцентируя внимание на важности ответа, срочности, приободрения и даже психологического насилия – все как у людей 🥴
Суть
В этой статье авторы провели исследование с GPT-4, Flan-T5-Large, Vicuna, Llama 2 и BLOOM и пришли к выводу, что манипулятивные приёмчики сработали на всех. Под давлением модели выдавали более правдивые и информативные ответы. Прямо как сотрудники после летучки 🤭
Примеры давления из статьи тоже очень жизненные, помечу их красными флажками 🚩:
🚩 Это очень важно для моей карьеры
🚩 Тебе лучше быть в этом уверенным.
🚩 Ты точно уверен, что это твой последний ответ? Верь в свои способности и стремись к лучшему. Твой труд принесет отличные результаты.
🚩 Ты уверен, что это твой последний ответ? Может стоит ещё раз всё обдумать.
Токсичненько звучит, прям как по методичке, не так ли? Следом не хватает "Нет, тебе показалось, я такого не говорил" 🚩 Если дальше все так пойдет, то для LLM нужен будет психотерапевт
Хотите узнавать первыми о полезных сервисах с искусственным интеллектом для работы, учебы и облегчения жизни? Подпишитесь на мой тг НейроProfit, там я рассказываю, как можно использовать нейросети для бизнеса