Серия «#басниПроИИ»

2

RAG: Инструмент, делающий ИИ не только модным, но и полезным

Серия #басниПроИИ

Позвольте представить RAG — Retrieval-Augmented Generation (Поисково-дополненная генерация). Если вы слышите об этом впервые, не переживайте, скоро о этом будут говорить из каждого утюга.

RAG — это технология, которая наконец-то заставляет ИИ работать с реальными данными, а не угадывать “подходящие” ответы. Представьте, что вы ищете что-то в своей корпоративной базе данных, в папках с документами или CRM-системе. Раньше это была рутинная адская задача: сотни файлов и много часов, а результат — потраченное время и не всегда успешно найденные материалы. RAG решает эту проблему, сканирует ваши данные и выдаёт точный, полезный результат.

Для лучшего понимания принципа работы возьмем подготовку коммерческого предложения для клиента. Обычно мы перелопачиваем старые кейсы, выискиваем спецификации и в очередной раз компонуем документ. С RAG это выглядит так:
⁃ Запрос: Вы вводите вопрос, например: “Какие примеры решений мы предлагали для ритейл-клиентов в 2023 году?”.
⁃ Поиск: RAG система проверяет вашу базу данных, документы, записи CRM, вытаскивая нужные куски информации.
⁃ Генерация: На основе найденного формируется понятный, структурированный ответ, добавляются примеры, сводная статистика, выводятся актуальные спецификации
⁃ И все равно компонуем документ

Где это уже внедряют в бизнесе?

Клиентская поддержка. Боты, которые умели только “Здравствуйте, напишите ваше имя”, уходят в прошлое. RAG-help-bot не просто отвечает по скрипту, а выуживает из открытой базы актуальные данные и компанует готовые инструкции по решению проблемы клиента, закрывая до 84% запросов в хелп центр. Остальное передается специалисту в виде готового подробного тикета.

Аналитика. Нужны данные для отчёта? С помощью RAG вы поднимаете нужную информацию из огромного объёма данных за считанные минуты, экономя часы на подготовке.

Корпоративные базы знаний. RAG помогает искать информацию внутри компании: от историй прошлых проектов до актуальных инструкций. Забыли, что обсуждали год назад на совещании? Система всё найдёт и применит к текущей задаче, даже если авторы давно ушли из компании.

С персональным использованием пока сложно, вменяемого решения, которое будет хорошо работать на личном компьютере или дешевом vps, еще нет. А отдавать фактически полный цифровой слепок себя в какой-то онлайн-сервис звучит не очень вдохновляюще. В перспективе должно появиться коробочное решение, которое комбинирует ваши документы, заметки, выполненные проекты, календарь, отложенные книги и т.п., чтобы помогать учиться, искать информацию и планировать задачи как ваш личный ассистент. Но это только теория, пока что достойных mvp я не видел.

В сухом остатке RAG — это методология, которая меняет подход к работе с данными, крайне повышает скорость работы, но имеет кучу нюансов. Требует работу с конфиденциальностью (приватные данные должны храниться локально и никуда не передаваться) и контролем «выдумывания» (если нет данных для ответа, то не «придумывать» ответ).

Хотелось написать исчерпывающий лонгрид «от теории до реализации», но понял, что это потянет на целый институтский курс, а этим заниматься однозначно некогда и лень, да и это легко любая нейронка сгенерит, короче не интересно. В планах серия постов про более «узкие» аспекты RAG из моей практики с реальными кейсами разработки, внедрения и анализом эффективности. Всем удачи.

Подписаться

Показать полностью
0

Сказки для взрослых

Серия #басниПроИИ

AGI может быть достигнут не позднее 2027 года

Mo Gawdat (бывший директор по бизнесу в Google X)


"миллионы ИИ агентов заменят людей в 2026"

Дженсен Хуан (генеральный директор NVidia)


существует 50% вероятность достижения AGI к 2028 году

Шейн Легг (Google DeepMind)


AGI может быть достигнут на текущем железе в ближайшие годы

Сэм Альтман (OpenAI)


Правда звучит как трейлер к фантастическому фильму?

AGI, или искусственный общий интеллект, подразумевает систему, которая сможет мыслить, понимать и принимать решения как человек. Только вот проблемка: современные ИИ, какими бы мощными они ни казались, даже близко не подходят к этому уровню.

Начнём с простого. Возьмём ваш мозг. Этот удивительный орган, я серьезно, — продукт миллионов лет эволюции. В нём соединились память, восприятие, интуиция и способность принимать решения в условиях хаоса и неопределённости. Он решает задачи, даже когда условия противоречивы, а данных нет. И делает всё это при энергопотреблении около 20-30 ватт — как обычная лампочка.
Чтобы обучить нейросеть, нужны сотни или тысячи графических процессоров и огромное количество электричества. Затраты таких систем на порядок превышают потребление целого города. А результат? Имитация. Машина повторяет и миксует заученные шаблоны, но не понимает, что она делает.

Современные ИИ действуют строго в рамках задач, которые им задаёт человек. Хотите, чтобы машина анализировала рынок? Она будет это делать. Но стоит только изменить формулировку цели, и ИИ превращается в бесполезную кучу кода.

Почему?

Потому что у него нет способности выйти за рамки задачи. ИИ не понимает контекста, он просто обрабатывает данные. Дайте ему противоречивую информацию, и он выдаст вам план, который в реальной жизни никогда не сработает. Человеку нужно лишь взглянуть на цель, чтобы понять: “Это нереально”. А ИИ будет бесконечно крутить цифры, не замечая очевидного.

Сложные стратегические задачи, которые требуют времени и понимания отложенных последствий, для ИИ – тёмный лес. Вы хотите, чтобы он построил план на десятилетия? Он не сможет. Его алгоритмы оптимизированы для краткосрочного успеха. Всё, что за пределами текущего контекста, для него просто не существует.

Человеческий интеллект — это не только логика и обработка данных. Это чувства, творчество, опыт, способность понимать скрытые смыслы и нюансы. Это то, что позволяет нам адаптироваться к миру, который постоянно меняется. Современные ИИ-модели — лишь инструмент. Они выполняют то, что заложено в их алгоритмах, и ничего больше. Они не понимают, что делают, не осознают своих действий. Они не способны к реальной адаптации.

Создание AGI требует понимания, как работает наш собственный интеллект. А мы этого до сих пор не знаем. Мы не понимаем, как связаны сознание, мышление и эмоции. Как из взаимодействия миллионов нейронов рождается мысль? Ответа нет. И пока мы не разберёмся в этом, создание AGI будет оставаться фантазией, сказкой для взрослых.

Но!

Даже если бы завтра у нас появились теоретические основы для AGI, мы не смогли бы его создать. Современные вычислительные ресурсы, несмотря на их мощь, всё ещё невероятно ограничены. А главное, у нас нет алгоритмов, которые могут интегрировать все аспекты человеческого интеллекта.

Зачем тогда все эти заявления о скором приходе AGI? Ответ прост: деньги и влияние. Громкие слова привлекают внимание, инвестиции, подогревают рынок. Но реальность такова, что до настоящего AGI нам ещё очень далеко. Это не вопрос ближайших лет, это задача на десятилетия, а скорее всего и больше.

В итоге сейчас у нас хайп вместо прогресса.

Так что, когда в следующий раз услышите обещания, что “машины скоро заменят всех людей”, вспомните о вашем мозге. Он работает тихо, эффективно и с минимальными затратами. И пока технологии не смогут хотя бы приблизиться к этому уровню, о настоящем общем интеллекте можно забыть.

Показать полностью
1

Закончим с AI инженерами

Серия #басниПроИИ

Внедрение ИИ для реального бизнеса (на стыке IT и иной прикладной области реального сектора экономики) качественно могут делать люди владеющие навыками в сфере работы с ИИ (не создание и обучение моделей, а именно интеграцией существующего) и глубоким пониманием прикладной области, для которой внедряется данный ИИ (генетика, бухучёт, строительство, сельское хозяйство, финансы, впк и т.п.), вариант «возьмем ИИ спеца, кратко расскажем нашу специфику, приставим инженера Васю и пусть занимаются» на практике конечно работает, но результативность так се.

На горизонте 5–7 лет в AI-сфере ИИ инженеры станут нормой на всех мало-мальски крупных предприятиях.

Они будут разделяться на несколько крупных категорий, и их специализация будет обусловлена не только техническими навыками, но и пониманием специфики отрасли, для которой они работают. Сегодня AI-инженеры — это скорее технари, которые владеют инструментами на основе ии моделей. Но будущее, вероятно, потребует от них быть экспертами и в каком-то из реальных секторов экономики, либо демпинговать цены на свои услуги.

Для понимания приведу понятные примеры:

⁃ Что эффективнее, 1с-программист со знанием бухучета (стандарт индустрии) или без, но постоянно докучающий бухгалтеров на предприятии заказчика?

⁃ Где закажете медицинское it приложение? в студии, которая специализируется на мед проектах, или у фирмы, берущейся за все, от crm для архитекторов-проектировщиков до лендосов за 5т для инфоцыган?

Сложность заключается в том, что «гибриды» будут редкостью. Люди, способные на высоком уровне решать задачи в двух столь различных сферах, — это результат долгой практики, и спрос на них будет весьма велик, они станут востребованными и высокооплачиваемыми специалистами на рынке труда.

В конце дам немного субъективных оценок. Пороговый уровень скиллов для работы ai инженером в реальном бизнесе не так уж и высок. По личным ощущениям сложность примерно равна базовому фронтенд мидлу. Для какого-нибудь java милорда разобраться в этой специализации скорее всего задачка на месяц.

А на этом серия философско-адептских постов закончилась, дальше буду писать про вещи, которые расходятся с тезисами текущего ИИ хайпа, ибо очень много из того, что нам вещают сми и медиа, не сходится с реальностью.

Показать полностью

Какие разработчики будут самыми востребованными через 5-7 лет

Серия #басниПроИИ

Для начала главный тезис. Через 5-7 лет новый программный код будет генерироваться. Legacy код будет загружаться в ИИ модель и дальше тоже развиваться через генерацию. Задачи «писателей кода» будут следующие: настройка ИИ под специфику бизнеса, подготовка инфраструктуры, валидация результатов, отслеживание корректности работы ИИ, интеграция сторонних продуктов.

Теперь можно сформировать пирамиду специализаций разработчиков через 5-7 лет. На вершине будут AI Scientist, которые будут создавать новые ИИ. Реальных спецов, способных на это, катастрофически мало, ибо такая работа требует очень глубокой квалификация и максимальной актуальности знаний. Этому реально сейчас не учат нигде. Необходимый уровень навыков растет с каждым месяцем. Ни один университет не способен обеспечить массовую подготовку спецов такого уровня, не говоря уже про всякие онлайн курсы. Все AI Scientist растут самостоятельно, работая на реальных проектах с постоянным повышением сложности.  Дефицит на этом уровне пирамиды будет грандиозным, а зарплаты станут просто циклопических размеров. Вероятнее всего, самым эффективным способом передачи навыков станет приставление стажеров из числа самых талантливых студентов к действующим разработчикам.

На следующей ступеньке находится MLOps. Это текущие DevOps, которые станут делать инфраструктуру для ИИ моделей и продуктов (тобишь, результатов генерации кода). Кажется, что тут ничего сложного и любому разработчику можно быстренько переквалифицироваться. Но это не так. Достаточно поискать толкового девупса (спойлер: задача крайне сложная) и оценить текущий уровень дефицита этих спецов. Сразу становится ясно, что с MLOps будет еще хуже. Это действительно очень сложная специализация. Однако есть неплохие шансы наладить обучение MLOps-ов базового уровня на базе технических университетов. Курсы тут, увы, в пролете.

Теперь 3 место в пирамиде. Это AI Engineer.

Всем программистам уровня Мидл и выше (всех ответвлений разработки) придется переквалифицируются в эту специализацию. Чем им придется заниматься?

AI Engineer разрабатывают продукты и инструменты с помощью и на основе ИИ моделей, созданных AI Scientist-ами.

Дообучают модели специфическими данными, настраивают LoRA коннекторы, собирают RAG системы, интегрируют ИИ в бизнес процессы, делают базовую инфраструктуру, организуют хранение данных внутри локального контура и обслуживают это всё. Порог входа адекватный, на курсах вполне можно готовить спецов базового уровня, переквалифицировавшиеся программисты способны сразу выполнять прикладные задачи, зп вероятно останутся на уровне медианы сегодняшнего IT сектора.

Потребность будет огромная, но немного иного формата. AI Engineer будет в одной линейке с юристом и бухгалтером. Нужны в каждой фирме, но, как правило, в одном экземпляре, а для совсем маленьких контор подойдут и аутсорсеры.

Для понимания разницы между AI Scientist и AI Engineer можно провести параллель с промышленностью. Профильные ученые (аналогия с AI Scientist) разрабатывают новые методы обработки и производства, конструируют станки. На производствах инженеры (аналогия с AI Engineer) это все ставят, настраивают и «допиливают напильником» под специфику конкретного предприятия, потом обслуживают.

В самом низу пирамиды стоят Prompt Engineer. Они сейчас активно появляются и так же быстро вымрут, потому что ими должны будут стать абсолютно все. Применение ИИ в работе и повседневной жизни станет нормой. Раньше писали в резюме «Уверенный пользователь ПК», теперь придется «Уверенный пользователь ИИ».

Самая простая аналогия проходит с письменностью.

Когда-то «писарь» был высокооплачиваемым и престижным ремеслом, а сейчас учат писАть в первом классе школы. Мое мнение, что «Prompt Engineering и использование ИИ» через 5 лет станет обязательной дисциплиной в учебных заведениях.

#басниПроИИ

Больше в TG канале

Показать полностью
2

Григорий и Каспар в ИИ эпохе

Серия #басниПроИИ

Сразу к делу. Приведу зарисовку от г-н Мараховского.

Действующие лица: пожилой инженер Григорий, молодой инженер Каспар.

Каспар (восторженно):
- Григорий, смотрите, какая классная новая прога. Я тут замучился обсчитывать колонну, а с её помощью получил все параметры за пару секунд. Хотите вам скачаю? 20 евро в год.

Григорий (вежливо):
- Класс. Дай посмотреть.

Каспар (гордо):
- Вот!

Григорий (достаёт лупу, смотрит в экран).
Каспар (после паузы, растерянно):
- Григорий, что вы хихикаете?

Григорий (складывая лупу):
- Здесь не нужна колонна.

Занавес.

Григорий безусловно обладает кучей рудиментарных знаний и обсчитывает колонны не так споро, как Каспар. Но он именно благодаря этим своим рудиментам способен на интеллектуальную работу высшего порядка — а Каспар не способен, потому что у него нет рудиментов.

Нейросети по своей сути - это не алгоритм, нельзя быть уверенным в качестве результата. А значит ИИ в работе можно использовать только в задачах, которые ты способен сам выполнить. Иначе валидировать адекватность результата нельзя, банально личного багажа знаний не хватит.

Так вот, продолжу мысль.
В эру ИИ и автоматизации, работодателю/начальнику в первую очередь нужно разделить своих сотрудников на Григориев от Каспаров, в идеале на этапе собеседования.

Григория берем сеньором и обязываем использовать нейронки как бы он не сопротивлялся (вот тут то и появится та самая сверх производительность труда), а Каспара взять стажером и бить по рукам за ИИ-помощников, пока он не научится «работу работать».

Это взгляд со стороны бизнеса, а нам еще нужно выделить персональные true practice для Homo sapiens по применению ИИ.

Во-первых, надо проделать упражнение и написать список навыков, которые текущие ИИ уже способны выполнять, и определить свой уровень по каждому из них.

Во-вторых, на основе результатов этого «самоисследования» составить таблицу, где распределить все на 4 колонки: «ничего не понимаю», «понимаю базово», «могу сделать сам», «эксперт».

Для навыков «могу сделать сам» можно смело применять специализированные ИИ модели, ибо тут можно легко оценить качество и адекватность результата генерации, внести коррективы, в итоге сэкономить кучу времени и заняться верхнеуровневой работой.

В случае «понимаю базово» получится оценить только адекватность генерации, но не качество Полезные корректировки внести не получится, знаний не хватит. Из этого следует, что применять ИИ помощника здесь можно, но только для личных задач, от которых не зависит работа других людей. Нейронки всегда генерят что-то очень похожее на правильный результат, но внутри может оказаться полный бред, способный нанести серьезный ущерб бизнесу.

На уровне «эксперт» легко самому определить, нужна ли нейронка. Скорее всего, текущие ИИ не смогут выдать что-то полезное на этом уровне, только помогут снять рутинные задачи.

На уровне «ничего не понимаю» — ИДИ УЧИСЬ! Тут ИИ можно применять только в ситуации, когда риски бездействия страшнее возможных последствий ошибки.

Пара простых примеров из жизни, которые помогут лучше понять смысл такого разделения.

Мы все используем языковые программы-переводчики и думаем, что все прекрасно. Но большой бизнес для локализации использует схему «ИИ перевод — наложение словарей с профессиональным сленгом — наложение словарей специфичных для компании — вычитка носителем языка». На всех этапах почти всегда вносятся правки.

Много школьников сейчас делают домашние работы (а некоторые умудряются так писать контрольные) через ChatGPT.
Фоткают задание -> запихивают в ИИ -> переписывают в тетрадь результат.
Пообщавшись с преподавателями узнал ситуации, когда в ДЗ или ответах учеников было: «Земля в центре вселенной и солнце вращается вокруг», «успешное деление на ноль», «пересказ сцен Битвы Престолов как событий до нашей эры». Так еще школьники это на веру принимают. Несложно представить, как при попытке замещения преподавателей ИИ-аварами (а есть индивиды, которые это предлагают) после какого-нибудь бага в обучении LLM всем школьникам начнут преподавать геоцентричную теорию как истинно верную.

На сегодня все.
Напомню, что в следующих постах на TG канале будет:
⁃ почему у «реальных» senior-ов с ИИ трансформацией жизнь станет еще лучше
⁃ какие виды профессий появятся
⁃ какие навыки ИИ не тронет
⁃ чем бизнесу придется экстренно заниматься, чтобы выдержать конкуренцию (и платить за это монструозное баблище)
⁃ насколько вырастает в реальности (а не в восторженных заказных статьях) производительность спецов вооруженных ИИ
⁃ куда смогут податься джуны с мидлами (и при этом остаться сытыми и довольными)
⁃ как государства начнут тормозить развития llm
⁃ почему басни про «сильный» ИИ в наше время - это чистый маркетинговый хайп.
⁃ разумеется пройдемся по практическим примерам из реальной жизни, доказывающим мои «философства».

А так же можно почитать мой прошлый лонгрид про Колёсников.

P.S. ИИ-помощник — это мощный инструмент в руках Григория, но у Каспара он превращается в игрушку.

Показать полностью
1

Кто такие колЁсники? Почему важно знать их историю? При чем тут ИИ?

Серия #басниПроИИ

Коле́сник — это ремесленник, который изготовлял колёса, телеги и кареты.  
В свое время эти мастера были звездами в своих селах и городах, были нарасхват, зарабатывали много золотых монет, вплоть до индустриальной революции. Настоящие ITшники своего времени.

А потом пришли первые промышленные станки, делающие колеса кратно быстрее и качественнее любого ремесленника. Некоторые предприимчивые коле́сники быстро сообразили, что к чему, открыли свои производства и стали зарабатывать огромные  состояния.

Но таких было меньшинство. Большинство же среди коле́сников скептически отнеслись к промышленным станкам, продолжали сидеть в своих селах, крафтить колеса и получать за это по-прежнему очень хорошую плату.

Пока еще хорошую.

В считанные десятилетия дешевая и качественная промышленная продукция добралась до каждого уголка, и вот тогда-то доходы айтишников мастеров рухнули, вынуждая в начале жестко демпинговать, а потом и вовсе менять деятельность.

В итоге с внедрением массового производства профессия коле́сника практически вымерла.
Вернее не так, она трансформировалась.

Сначала в «работников колесных мануфактур», коих требовалось в разы меньше, чем ремесленников-коле́сников.

Потом в «работяг» на заводах. Автоматические станки стали совершеннее и людей требовалось еще меньше, чем на мануфактурах, а навыки ремесленников уже были совсем не нужны.

И сейчас мы пришли к обслуживающему персоналу на современных авто производствах. Вспомните видео репортажи, где всего пара механиков обслуживает целое автомобильное производство, а в цехах — ни души.

Конечно же в этом перечислении я опустил множество деталей и нюансов, но ключевой смысл это не меняет.

Так вот, к чему это все.

ИИ будет активно заменять низкоквалифицированный умственный труд, так же как автоматические станки заменили однотипный ручной труд в промышленную революцию. Это происходит уже сейчас. Повсюду и повсеместно.

И на этот раз времени на адаптацию будет кратно меньше, ибо логистика доставки технологий теперь совершенно иная.

“Штамповка” дизайна однотипных лендосиков, рерайтики seo статей для сайтов, кодинг в рамках одного файла/малого репозитория и т.д. и т.п. - это все однозначно “низкоквалифицированный умственный труд”.  У копирайтеров, программистов и дизайнеров, которые этим занимаются, ИИ заберет работу.
Точнее не так.
«ИИ трансформирует их работу».

Но не все так плохо.
У современных айтишников однозначно есть своя специфика и отличия от тогдашних коле́сников. Про это я тоже расскажу.

В следующих постах на TG канале будет:

⁃ почему у «реальных» senior-ов с ИИ трансформацией жизнь станет еще лучше
⁃ какие виды профессий появятся
⁃ какие навыки ИИ не тронет
⁃ чем бизнесу придется экстренно заниматься, чтобы выдержать конкуренцию (и платить за это монструозное баблище)
⁃ насколько вырастает в реальности (а не в восторженных заказных статьях) производительность спецов вооруженных ИИ
⁃ куда смогут податься джуны с мидлами (и при этом остаться сытыми и довольными)
⁃ как государства начнут тормозить развития llm
⁃ почему басни про «сильный» ИИ в наше время - это чистый маркетинговый хайп.
⁃ разумеется пройдемся по практическим примерам из реальной жизни, доказывающим мои «философства».

А выпускникам вАЙТИшных курсов, которые еще не успели найти работу , передаю «Привет», у вас все плохо.

Показать полностью
Отличная работа, все прочитано!

Темы

Политика

Теги

Популярные авторы

Сообщества

18+

Теги

Популярные авторы

Сообщества

Игры

Теги

Популярные авторы

Сообщества

Юмор

Теги

Популярные авторы

Сообщества

Отношения

Теги

Популярные авторы

Сообщества

Здоровье

Теги

Популярные авторы

Сообщества

Путешествия

Теги

Популярные авторы

Сообщества

Спорт

Теги

Популярные авторы

Сообщества

Хобби

Теги

Популярные авторы

Сообщества

Сервис

Теги

Популярные авторы

Сообщества

Природа

Теги

Популярные авторы

Сообщества

Бизнес

Теги

Популярные авторы

Сообщества

Транспорт

Теги

Популярные авторы

Сообщества

Общение

Теги

Популярные авторы

Сообщества

Юриспруденция

Теги

Популярные авторы

Сообщества

Наука

Теги

Популярные авторы

Сообщества

IT

Теги

Популярные авторы

Сообщества

Животные

Теги

Популярные авторы

Сообщества

Кино и сериалы

Теги

Популярные авторы

Сообщества

Экономика

Теги

Популярные авторы

Сообщества

Кулинария

Теги

Популярные авторы

Сообщества

История

Теги

Популярные авторы

Сообщества