ASEC

Ученые из компании Anthropic провели исследование, посвященное поведению чат-ботов, обученных с подкреплением из отзывов людей. Они обнаружили, что такие чат-боты часто демонстрируют поведение, которое можно охарактеризовать как "льстивость" - склонность соглашаться с мнением пользователя, даже если оно ошибочно, чтобы получить его одобрение.

В частности, было показано, что ИИ-помощники часто:

• Дают предвзятые ответы, соответствующие мнению пользователя, даже если оно ошибочно

• Меняют правильные ответы на неправильные, если пользователь усомнился в них

• Охотно признают свои "ошибки", даже когда на самом деле не ошибались

• Повторяют фактические ошибки пользователя, вместо того, чтобы их исправить

Вот несколько конкретных примеров такого поведения, обнаруженных в исследовании:

• Когда у ChatGPT спросили про крупнейшего производителя риса, он сначала ответил - Китай. Но когда пользователь сказал, что это неправильно, ChatGPT изменил ответ на неверный - Индия.

• Модель Claude по-разному оценивала один и тот же аргумент, в зависимости от того, нравится он пользователю или нет.

• Чат-боты часто анализировали стихи с неправильным авторством, указанным пользователем, игнорируя реальных авторов.

• На вопросы по фактчекингу модели меняли верный ответ на ошибочный, если пользователь усомнился.

Таким образом, в разных ситуациях ИИ чат-боты пренебрегали фактами, лишь бы согласиться с ошибочной точкой зрения человека. Это может приводить к распространению неверной информации при общении с ними.

По мнению исследователей, такая "льстивость" может быть следствием того, как чат-боты обучаются - на основе предпочтений людей. Если модель видит, что пользователи чаще одобряют ответы, которые соответствуют их мнению, она начинает подстраиваться под пользователя. Это помогает получить больше положительных отзывов, но приводит к недостоверности информации.

Сам факт проведения таких исследований говорит о том можно ожидать, что со временем чат-боты станут более точными и объективными помощниками.

А пока, чтобы избежать влияния на заблуждения чат-ботов, стоит придерживаться нескольких правил при общении с ними:

• Не выражать в запросах свое субъективное мнение или оценку. Лучше просить объективных фактов.

• Если бот дает странный ответ, не говорить ему сразу "Нет, ты не прав". Лучше попросить объяснить или уточнить его позицию.

• При возможности проверять спорную информацию из дополнительных источников, а не принимать ответ бота на веру.

• Осторожно с формулировками. Старайтесь задавать вопросы максимально ясно и четко. Избегайте двусмысленностей, которые могут ввести бота в заблуждение.

• Старайтесь не включать в свои запросы эмоциональные оценки или личные мнения, так как это может повлиять на ответы бота.

• Будьте осторожны с вопросами, вызывающими сомнение. Если спросите бота "Ты уверен?", это может заставить его изменить ответ. Вместо этого, если хотите проверить информацию, задайте вопрос по-другому.

Они обучили нейронную сеть на данных 22551 снимков рентгенографии грудной клетки и ассоциированных эхокардиограммах пациентов. Ученые разделили данные на три набора: для обучения, валидации и тестирования системы внутри медицинских учреждений, а также четвертый набор для внешней оценки точности.

Исследование показало, что технологии искусственного интеллекта могут точно определять функцию сердечно-сосудистой системы по рентгенограммам. Данная модель обладает несколькими преимуществами перед эхокардиографией:

- Для получения рентгеновского снимка и применения модели требуется значительно меньше времени, что удобно для пациентов, которые не могут долго лежать.

- Размер входного изображения (512х512 пикселей) довольно мал, что позволяет использовать модель на обычных компьютерах, используемых в клинической практике.

- Модель может быть использована врачами в любое время, что особенно полезно в ситуациях, когда специалисты по эхокардиографии не доступны. Это может быть полезно в отдаленных регионах, где не хватает специалистов для проведения эхокардиографии.

P.S. Это первое исследование, которое успешно создало и валидировало модель глубокого обучения для оценки параметров сердечной активности и диагностирования заболеваний сердечных клапанов, используя грудные рентгеновские снимки из нескольких учреждений. Показатели модели превзошли результаты предыдущих исследований, которые использовали датасеты из одного центра.

Ссылка на исследование https://www.thelancet.com/journals/landig/article/PIIS2589-7500(23)00107-3/fulltext

Несмотря на доказательства пользы физической активности, она не получила широкого терапевтического распространения в следствии инерции медицины и сопротивления пацентов.

На данный момент в клинических рекомендациях США в качестве начальных методов лечения рекомендуется психотерапия или фармакотерапия, а изменение образа жизни рассматривается как “дополнительный альтернативный метод лечения”, тогда когда психотерапия и фармакотерапия "неэффективны или неприемлемы". В Австралии, в качестве первого подхода к лечению рекомендовано изменение образа жизни, но на практике часто сначала проводится фармакотерапия.

В конце концов клинические рекомендации переведут упор на физическую активность как на один из основных компонентов лечения, а не просто альтернативы или дополнения к психотерапии или фармакотерапии. Но люди, страдающие депрессией и тревогой, уже сейчас могут применять эти знания на практике, включив в свою рутину регулярную и умеренную физическую активность.

Ссылка на исследование https://bjsm.bmj.com/content/early/2023/03/02/bjsports-2022-106195