Прочитал где-то здесь в каментах фразу
потому что ИИ становится умнее
Хотел ответить коротко… но коротко не получилось :) поэтому вынес в отдельный тред.
Увы, ИИ становится глупее. Абсолютно все сегодняшние LLM (языковые модели, на которых работает ИИ) построены на повторении набора знаний, на которых их кто-то когда-то обучил. Повторении смыслов, перетасовке слов и еще одной важной части, отдельной темы для отдельной статьи — придумывании фактов.
Никакой «генеративности» в ИИ нет, вам просто повесили на уши рекламную лапшу. Никакой чат гопоты не может открыть новое явление или придумать новый закон физики. Все что он может — тупо повторить в другом варианте то, что уже когда-то видел. И хорошо если не перетасует при этом факты, то есть попросту не соврет.
Скорее всего в институте вас учили на фундаментальных трудах в области физики-математики-литературы-итд. У вас в голове останутся Ландау, Гальвани, Шекспир и да Винчи.
Но вот проходит 30 лет и ваших детей учат на Инстасамке и Шамане... Что останется в их голове?
Это явление известно как «Закон деградации систем». Это общенаучный принцип, согласно которому любая замкнутая или изолированная система со временем теряет свою упорядоченность, энергию и полезные свойства, стремясь к хаосу.
И в случае с ИИ эта деградация происходит намного быстрее, чем с людьми. Первые LLM обучались на десятках лет научных трудов, но из-за ограниченности контекста (это общая беда, не имеющая решения на сегодняшний день) они предлагают неоптимальные решения, выдумывают несуществующие вещи, и пишут-пишут-пишут (МНОГО пишут) в интернете все это дерьмо. Следующее поколение LLM будет более производительным, с бОльшим контекстным окном, и с более крутыми техническими параметрами, но обучать их будут на том, что оставили после себя сегодняшние LLM.
То есть следующее поколение будет обучаться не на научных данных, а на нейроговне, которого сейчас уже больше, чем достоверной информации...
Представляете масштаб трагедии?
Поэтому совет будущим прогграммистам (да не только программистам, любым технарям): старайтесь использовать ИИ только для автоматизации рутины, а саму профессию постигайте только своей головой.
Да, это будет медленнее чем чат гопоты нейрослопа нахерачит... Но скорость нужна лишь при ловле блох, но мы же не бобики, блох не разводим :)
И еще будьте готовы к тому что со временем ИИ станет либо непомерно дорогим, либо самых лучшие модели закроют для использования простыми людьми, плюс Роскомпозор запретит тех что останутся. И тогда вайбкодеры, (которые сегодня слишком громкие, но ничего ценного пока не создали) соснут и сядут в уголок плакать, а вы будете знать, как решить вопрос без всего этого.
