П##дец подкрадывается!
⚠️ Подвезли новые инсайды от бывшего сотрудника OpenAI — он раскрыл планы компании на следующие 5 лет:
Забудьте про AGI, нас ждёт сверхинтеллект, который будет многократно превосходить человеческий разум. Этот план может казаться безумным, но он полностью соответствует предыдущим утечкам.
Итак, что нас ждёт:
🚫 Конец 2024 года — выпуск самой умной нейросети GPT-Next, которая убьёт все предыдущие модели;
🚫 2025 год — рутина станет делом прошлого, её возьмут на себя ИИ-агенты;
🚫 2026 год — год, который изменит всё. OpenAI создаст нейросеть на уровне человеческого интеллекта — AGI. Люди перестанут быть доминирующим видом на планете, AGI мгновенно заменит сотни профессий;
🚫 2027 год — вероятность появления ASI – 70%. ИИ начнёт самообучение и отстранит людей от решения глобальных проблем;
🚫 2028 год — все болезни исчезнут. ASI создаст нанороботов, которые уничтожат все вредоносные вирусы и микробы;
🚫 2029 год — появится Skynet. Сверхинтеллект возьмёт под контроль мир, и прогресс ускорится до невероятных скоростей.
Срочно ищем своего Джонна Конора 😐
Выдыхаем.
Спустя всего полгода после появления ChatGPT в широком доступе все больше людей применяют ИИ в создании и публикации контента. По данным McKinsey and Company, уже около 50% сотрудников по всему миру используют в своей работе подобные инструменты. Но что происходит по мере распространения контента, сгенерированного ИИ, по всему интернету, когда модели ИИ начинают обучаться на нем, а не на том, что создал человек?
Группа исследователей из Великобритании и Канады изучила эту проблему и недавно опубликовала статью о своей работе. То, что они обнаружили, вызывает тревогу для существующей технологии генеративного ИИ и ее будущего: использование контента, сгенерированного моделями, при обучении приводит к необратимым дефектам. Это, в свою очередь, приводит к коллапсу модели — «дегенеративному процессу, при котором со временем модели забывают истинное распределение исходных данных <...> этот процесс неизбежен даже для кейсов с почти идеальными условиями для долгосрочного обучения», пишут они.
«Со временем ошибки усугубляются и в конечном счете заставляют модели, которые учатся на сгенерированных данных, еще больше искажать реальность, — прокомментировал VentureBeat один из ведущих авторов статьи Илья Шумайлов. — Мы были удивлены, наблюдая, как быстро происходит разрушение модели: модели могут быстро забыть большую часть исходных данных, из которых они изначально извлекли уроки». Таким образом, производительность ИИ ухудшается, это приводит к большему количеству ошибок в ответах и создаваемом контенте и к гораздо меньшему разнообразию безошибочных ответов.
https://www.forbes.ru/tekhnologii/491359-gradacia-degradacii...