Ответ на пост «Сэм Альтман заявил, что иметь больше 8 ГБ оперативной памяти в домашнем ПК — это "непозволительное расточительство и эгоизм"»
В исходном посте слова Альтмана исказили - он ничего не говорил об эгоизме, только об эффективности использования ресурсов ("From a global allocation perspective, actually it’s quite terrible to have everyone have a bunch of the world’s limited supply of DRAM sitting in their own computer, and be used 5% of the time. ... Like, you want maximum utilization in the cloud if you're trying to deal with this very supply constrained environment. And somehow many people's intuition is the opposite of that")
И как раз на днях попалась пара новостей об эффективности.
ИИ-бум обогатил лишь семерых: остальные 493 компании S&P 500 пока не видят отдачи от инвестиций
Nvidia сама спровоцировала дефицит видеокарт GeForce — ради ИИ-чипов, которым негде работать
... Дефицит игровых видеокарт и оперативной памяти стал следствием не естественной нехватки полупроводниковых компонентов, а намеренной политики Nvidia. Компания перенаправила производственные мощности на выпуск оборудования для искусственного интеллекта и стала навязывать его корпоративным клиентам, у которых ещё нет инфраструктуры для его эксплуатации.
...Только в августе облачное подразделение Amazon Web Services (AWS) получило от Nvidia ускорители на сумму $5 млрд, обязательства компании по дальнейшим закупкам составляют ещё $3 млрд ежемесячно. Но задействовать закупаемое в таких объёмах оборудование ни Amazon, ни другие технологические компании не могут: модернизация энергосетей и строительство центров обработки данных значительно отстают от графика поставок
...Nvidia, по мнению аналитиков, занимается затовариванием каналов сбыта — она играет на страхе корпоративных клиентов упустить выгоду и добивается предоплаты за оборудование, которое те не могут сразу использовать.
В общем, бигтехи с перепугу закупают оборудование, которое ещё неизвестно, когда смогут использовать, реальная польза от ИИ пока ограниченна, зато цены на оперативку и видеокарты улетают в космос. Но квартальные отчеты у NVIDIA выглядят дофига эффективно.
Подумалось ещё, что будет забавно, если через годик-другой разработают новую прорывную архитектуру ИИ, которая потребует совсем других ускорителей вычислений, и разом сделает устаревшей всю эту гору железа. Но поживём - увидим.
Ответ на пост «Сэм Альтман заявил, что иметь больше 8 ГБ оперативной памяти в домашнем ПК — это "непозволительное расточительство и эгоизм"»
@evil2182 : Неее там тема в другом, у них мечта запихать все в облако, чтобы все кроме клавы, моника, мыши и модема было в облаке. И пользователь постоянно за это платил.
Ответ на пост «Сэм Альтман заявил, что иметь больше 8 ГБ оперативной памяти в домашнем ПК — это "непозволительное расточительство и эгоизм"»
Какая-то примитивная и непонятно зачем написанная ложь. В реальности он заявил, что в условиях дефицита памяти запуск локальных ИИ-моделей крайне неэффективен с точки зрения распределения памяти, так как дома они используются 5% времени, а в облачных ИИ-решениях память загружают по максимуму.
Бреда про дом и 8 гигов озвучено не было. Расшифровку беседы можно посмотреть тут
Ответ на пост «Сэм Альтман заявил, что иметь больше 8 ГБ оперативной памяти в домашнем ПК — это "непозволительное расточительство и эгоизм"»
А он уже заменяет, и довольно успешно. У меня небольшое АО, потихоньку растём, всё нормально. И я уже на своей фирме вижу, сколько работы можно ему отдать.
Раньше кучу времени тратил на выставление счетов. Теперь это делает ChatGPT, у меня бизнес-подписка. Работает с программами на моём ноуте, под моим контролем всё считает и готовит. Я голосом говорю, что сделать, потом так же что поменять. Охрененно удобно.
С зарплатами то же самое. Раньше сам долго считал часы сотрудников перед отправкой бухгалтеру. Там свои нюансы, которые знаю только я, поэтому просто скинуть всё бухгалтеру не вариант. Теперь объясняю чату, он считает, я проверяю. Времени уходит в разы меньше.
Сейчас вот готовимся к годовому отчёту. Бухгалтер прислал список недостающих документов. ИИ сам нашёл в моей почте всё, что смог, по остальному написал в организации: пришлите чеки, документы. Когда прислали- отправил бухгалтеру сам, спросив у меня конечно. Раньше я бы сам сидел, искал, писал каждому, потом вспоминал, кто ещё не ответил.
А ещё у меня есть dot, ИИ-помощник. Вот без него уже вообще тяжело было бы. Проверяет почту, сообщает о важных письмах, напоминает, что надо сделать, где срок подходит. Я могу про какую-нибудь бумажку забыть, пока решаю вопросы с водителями и клиентами, а он напомнит. Найти старую переписку, разобраться, о чём договаривались, подготовить ответ, перевести на другой язык-всё туда же. С нужными доступами может и письмо отправить, и в календарь что-то внести. Это всё мелочи вроде бы, но за день их столько набирается, что раньше на них уходила хренова куча времени.
Ищу грузовики для фирмы- присылает интересные варианты. Начали тут названивать из пары компаний: давайте сделаем вам сайт. А я давно хотел, всё руки не доходили. Написал чату: ты про мою фирму всё знаешь, сделай. Дал доступ к домену и через пять минут сайт готов. И для моей фирмы вполне хороший. Я сэкономил деньги, кто-то не получил заказ.
Даже в Blender на моём компе делает модели для 3D-печати. Объясняю, что нужно, смотрю, прошу поправить. Для моих задач получается очень хорошо.
Понятно, что за ним надо проверять. Ошибается, иногда тупит, приходится объяснять ещё раз. Бухгалтера я пока тоже не увольняю)) Но часть работы, за которую раньше платил другим, уже делаю с ИИ. А часть своей работы, на которую убивал вечера, теперь заканчиваю гораздо быстрее.
Поэтому, когда говорят «когда-нибудь начнёт заменять людей», -да уже начал. У меня небольшая фирма, а я это уже вижу по своим расходам. И дальше, думаю, будет только больше. Вот это немного пугает, если честно. Мне-то удобно и выгодно, но я понимаю, что деньги, которые я сэкономил, кто-то теперь не заработал.
Это очень мощная штука, если разобраться и пользоваться с головой. Свои мозги всё ещё нужны, но сколько же рутины он с меня снял.
Ответ на пост «Сэм Альтман заявил, что иметь больше 8 ГБ оперативной памяти в домашнем ПК — это "непозволительное расточительство и эгоизм"»
Сэм Альтман заявил что 8 миллиардов человек - это непозволительное расточительство и эгоизм и призвал сократить количество жителей планеты до миллиарда
Сэм Альтман заявил, что иметь больше 8 ГБ оперативной памяти в домашнем ПК — это «непозволительное расточительство и эгоизм»
Глава OpenAI тонко намекнул, что пока вы тратите драгоценные гигабайты на открытие тридцатой вкладки в Chrome или (о ужас!) на запуск видеоигры, где-то грустит один искусственный интеллект. По мнению Альтмана, эти ресурсы гораздо нужнее дата-центрам для обучения новых моделей ИИ, которые в будущем... заменят вас на работе.
Так что закатайте губу, кожаные мешки. Обрезайте плашки памяти, удаляйте игры и готовьтесь делиться кремнием ради высшего блага.


