Израильский врач нашел с помощью ИИ фатальную ошибку в учебнике педиатрии⁠⁠

Экстренный случай с отравившимся малышом привел к неожиданному открытию

Эта история началась как чрезвычайная ситуация в приемном покое Детской больницы "Шнайдер" в Петах-Тикве, куда поступил малыш после случайного приема высокой дозы лекарства, а превратилось в выявление опасной ошибки в одном из наиболее авторитетных медицинских учебников мира.

Причем выявил ошибку не комитет экспертов, а искусственный интеллект, который решил использовать доктор Шай Ицхаки, старший педиатр в больнице "Шнайдер". Открытие израильского врача открыло глубокую дискуссию о роли ИИ в мире медицины

"В ту ночь я дежурил в приемном покое, – рассказывает доктор Ицхаки. – Среди поступивших к нам детей был малыш с отравлением. Как выяснилось, он получил слишком большую дозу лекарства под названием колхицин, выписанного ему от семейной средиземноморской лихорадки (на иврите "кадахат ям-тихонит мишпахтит", по-английски - Familial Mediterranean Fever, FMF). - Ребенка немедленно госпитализировали в палату неотложной помощи".

Там маленького пациента принял на лечение доктор Ицхаки. "Выяснилось, что ребенок должен был получить 3 мл препарата из шприца емкостью 10 мл, но из-за досадной ошибки он получил три полных шприца по 10 мл. Я сразу проверил дозировку в пересчете миллиграммов на килограмм - и понял, что ребенок получал дозы, которые близки к опасным для жизни. Препарат имеет два порога дозировки. Превышение одного может привести к мультисистемному поражению (незек рав-маарахти). А превышение следующего порога ведет к летальному исходу. Наш пациент приблизился к чуть более низкому порогу, но это все равно представляло опасность для жизни", – говорит врач.

"С момента постановки диагноза мы перевели ребенка в отделение интенсивной терапии, – рассказывает доктор Ицхаки. – К счастью, его состояние быстро улучшилось. Мультисистемные повреждения, которых мы опасались, не проявились, состояние ребенка стабилизировали. Успеху лечения способствовала быстрая диагностика сразу по поступлении в приемный покой".

► Искусственный интеллект спасает жизни

Невзирая на благополучный исход, сам факт подобной оплошности продолжал волновать доктора Ицхаки. "Для меня такие случаи - возможность извлечь уроки, углубиться, прочитать больше,- говорит он. И конечно, после этого случая я снова перечитывал сведения о дозах и пороговых значениях отравления, связанного с колхицином".

Одним из первых источников, к которому он обратился, стал основной учебник по педиатрии. Доктор Ицхаки решил подойти к вопросу необычным способом: применив искусственный интеллект. "Я взял соответствующую главу в книге и загрузил ее в ИИ. Я хотел узнать, что в книге говорится об отравлении колхицином. Результаты были неожиданными: в учебнике написано, что можно давать колхицин малышам до дозы в 1–2 мг на килограмм, в то время как я знаю, что доза 0,8 мг на килограмм уже смертельная".

Несоответствие между дозами было слишком существенным. Доктор Ицхаки не мог поверить в то, что увидел. "Сначала я не очень в это верил. Я подумал, что это ошибка со стороны ИИ и решил проверить это сам. Я открыл справочник, насчитывающий 4000 страниц. Оказалось, что доза в 1–2 мг на килограмм на самом деле смертельно опасна, а она фигурировала в самом распространенном учебнике по педиатрии", – говорит он.

Но мог ли ИИ самостоятельно обнаружить эту ошибку? "Я взял весь фрагмент текста и загрузил информацию в другую модель ИИ, спросив его, была ли допущена опасная для жизни ошибка. И он ее нашел! Меня поразило, что этот инструмент можно использовать для поиска опасных медицинских ошибок. Понимаете? Многие люди боятся использования ИИ в медицине из-за его ошибок, но я думаю, что не менее опасно и наоборот - отказываться от ИИ в поиске таких ошибок".

► Особые возможности ИИ

Этот случай не только иллюстрирует важность бдительности врачей, но и ставит гораздо более широкие вопросы: насколько врачи могут (и должны) использовать инструменты ИИ? Правильно ли применять их в повседневной работе? И где грань между технологической помощью и слепой зависимостью, которая может дорого обойтись?

Доктор Ицхаки знаком с проблемами, но предлагает трезвый взгляд. "Я всегда сверяюсь с источниками. Получив ответ на вопрос от ИИ, я проверяю, есть ли у этого ответа ссылка. Я не полагаюсь слепо на рекомендацию ИИ, – говорит он. - Однако иногда это открывает для меня такие направления поиска решений, о которых я даже не думал. И даже если ИИ говорит мне, что это ответ на мой вопрос, я всегда проверяю его с помощью другого источника. Я не стану действовать по его подсказке, не проверив это по надежным источникам, на которые мы полагаемся".

Однако даже эти надежные источники могут содержать ошибки, как это произошло в случае с учебником. "Что важно почерпнуть из моей истории - так это то, что есть инструмент, который может стать еще одним уровнем безопасности в медицине. Способность ИИ мгновенно прочитать 4000 страниц и найти в них ошибки - уникальна. Ведь мы все-таки всего лишь люди, и от человеческих ошибок никто не застрахован".

► Новое поколение медицинских дилемм

Тем не менее наряду с потенциалом ИИ существует и немало рисков, особенно когда речь идет о молодых врачах или стажерах, которые еще не приобрели большого клинического опыта. Есть опасение, что вместо развития профессиональных навыков они начнут слепо полагаться на ChatGPT. "Именно в этом, – говорит д-р Ицхаки, – проявляется ответственность системы здравоохранения в целом и каждого из нас, медиков. Следует учиться, объяснять и добиваться правильного использования ИИ.

Нет сомнений в том, что его инструменты предлагают нам новые возможности, и все это - под рукой, буквально в смартфоне. Мы должны учиться сами и обучать других ограничениям работы с ИИ и правильному его использованию.

Даже когда мы говорим о внедрении систем ИИ в нашей больнице, в "Шнайдере", мы задаемся вопросом: насколько можно полагаться на полученный ответ? Как заранее правильно выстроить систему проверки информации ИИ? Это вопросы, которыми мы сейчас занимаемся".

Доктор Ицхаки считает, что в будущем ситуация будет выглядеть совершенно иначе: ИИ станет неотъемлемой частью медицинской практики. Более того, отказ от ИИ будет считаться отклонением от принятой практики. "Так же, как система ABS вначале стояла только на автомобилях класса люкс, а сегодня каждая машина оснащена ею в соответствии с правилами, то же самое произойдет и на следующем этапе развития медицины", - говорит доктор.

► Не бойтесь экспериментировать, но будьте осторожны

Так что же делать врачам – как начинающим, так и опытным, когда они сталкиваются с таким мощным инструментом, как искусственный интеллект? Для доктора Ицхаки ответ ясен: не бояться, а экспериментировать осторожно и ответственно. "Я предлагаю врачам просто начать применять его в той области, в которой они сильны, где они могут оценить ответы. Стоит задать ИИ профессиональные вопросы, не раскрывая подробности о личности больного - и проверить, точны ли и актуальны ли его ответы".

Он подчеркивает, что эксперименты с ИИ важны для расширения арсенала инструментов каждого врача. "Если каждый врач не будет самостоятельно прорабатывать с ИИ случаи, волнующие его, и дилеммы, с которыми он сталкивается, он просто не будет знать, на что способен этот инструмент", – говорит доктор Ицхаки. По его словам, лучший способ обрести уверенность в использовании ИИ – это получить практический опыт, а не только теоретические знания. "Я верю, что скоро эти системы станут гораздо более доступными и понятными – даже для тех, кто менее знаком с ними", – заключает он.

Перевод с иврита

ИСТОЧНИК