Ответ на пост «Как мы сделали нейросеть для анализа прыщей и случайно снесли собственное производство»⁠⁠1

Прочитал пост Гельтека про их Skin Assistant и хочу поговорить не про вирусный рост и пробники за 200 рублей, а про то, о чём в обсуждении почему-то молчат.

Гельтек сделали нейросеть, которая по загруженному селфи определяет 12 «проблем» с кожей — акне, птоз, розацеа, купероз, пигментация и т.д. — а затем рекомендует свою же продукцию. Всё подаётся с самоиронией, шутками про «нейросетку-вахтёршу» и смешными скриншотами анализа Фредди Крюгера. Весёлый маркетинг, классная вирусность. Но давайте на секунду отвлечёмся от юмора.

Птоз, розацеа, акне, купероз — это не косметические «проблемки». Это дерматологические диагнозы, которые ставит врач после осмотра. Не нейросеть по фотке с фронталки в ванной при жёлтом свете. В своей же статье на Хабре Гельтек пишет, что нейросеть упорно ставила птоз всем подряд, включая двадцатилетних девушек, и подаёт это как забавный баг. А теперь представьте: девушке 22, нейросеть говорит «у тебя птоз». Она гуглит, пугается, идёт к хирургу. Или — не идёт, а просто покупает крем за 200 рублей и думает, что проблема решена. Оба сценария плохие.

Но главное даже не в этом. Кожные заболевания маскируются друг под друга. Меланома может выглядеть как родинка. Базалиома — как прыщик. Если человек загрузил селфи, получил бодрое «акне, вот тебе сыворотка Стоп-акне», и успокоился — он может потерять время, которое в онкологии стоит жизни. И нет, дисклеймер мелким шрифтом тут не спасает.

А ещё тут конфликт интересов в чистом виде. Нейросеть находит проблему → рекомендует продукт Гельтека. Если бы врач ставил диагноз и тут же продавал лекарство из собственной аптеки — это бы вызвало вопросы у любой проверяющей инстанции. А тут то же самое, только вместо врача — алгоритм, а вместо аптеки — интернет-магазин. Система в принципе не может сказать «тебе к врачу» или «тебе поможет продукт конкурента» — она заточена продавать.

По приказу Минздрава ПО с ИИ для поддержки врачебных решений должно быть зарегистрировано как медицинское изделие. Готовящийся закон об ИИ вводит риск-ориентированный подход: чем сильнее система влияет на здоровье — тем жёстче требования. Пока закон не принят, Гельтек формально в серой зоне. Но этичность и законность — не одно и то же.

У меня тоже есть продукт, где ИИ работает со здоровьем — diabnostic.ru, приложение для мониторинга показателей здоровья у животных. ИИ анализирует тренды, но категорически не ставит диагнозов и не даёт рекомендаций по лечению — в промптах это жёстко прописано. Если тренд тревожный — система скажет «обратитесь к ветеринару», а не «купите вот этот препарат». Потому что ИИ — это инструмент для принятия решений врачом или владельцем, а не замена врача.

Я понимаю, что косметика — не онкология, и Гельтек — не злодеи. У них крутое производство, 30 лет на рынке, GMP-стандарты. Но именно поэтому странно видеть такую незамутнённость в вопросе AI-диагностики. Когда ты — серьёзная компания и даёшь человеку «диагноз» нейросетью, а потом продаёшь ему свой крем от этого «диагноза» — это уже не забавная фича. Это ответственность, которую пока никто на себя не берёт.

К чему это всё. Есть красная линия, и она проходит по слову «диагноз». Показать человеку тренд, визуализировать данные, помочь ему задать правильный вопрос врачу — это ИИ как инструмент. Назвать состояние клиническим термином и продать от него свой крем — это уже медицинская ответственность, от которой Гельтек аккуратно отошёл, спрятавшись за слово «косметика». ИИ в здоровье — это не фича для продаж. Это ответственность.