Пролог. Бег за троном
...Современное проявление ИИ движется в тревожном направлении. На первый взгляд генеративный ИИ кажется захватывающим, поскольку он способствует творчеству, обеспечивает дружеское общение и повышает производительность. Однако под его гладкой внешностью скрывается другая реальность. Модели генеративного ИИ массивны, они потребляют огромное количество данных, ресурсов и вычислительной мощности. Например, по имеющимся данным, GPT-4 в пятнадцать тысяч раз больше своего предшественника GPT-1. Затраты на эту технологию сказываются на обществе, особенно на уязвимых группах по всему миру, что приводит к росту прекаризации. Выгоды от генеративного ИИ получают в основном те, кто находится на вершине, а не те, кто больше всего в них нуждается.
За годы работы я нашел только одну метафору, которая отражает суть этих ИИ-властителей: империи. В эпоху европейского колониализма империи захватывали ресурсы, эксплуатировали рабочую силу, проецировали расистские идеи превосходства и оправдывали свои действия конкуренцией с другими империями. Это стремление к власти служило укреплению их господства и стимулировало экспансию. По сути, империи накапливали богатство, навязывая колониальный мировой порядок за счет других.
Империи ИИ не прибегают к открытому насилию, как в прошлом. Однако они по-прежнему добывают такие ресурсы, как работы художников, произведения писателей, данные из интернет-постов, а также землю, энергию и воду для центров обработки данных. Эти империи также эксплуатируют глобальную рабочую силу для обработки данных для технологий искусственного интеллекта. Они продвигают современные идеи и конкурируют с другими империями, скрывая вторжение в частную жизнь, воровство и автоматизацию экономических возможностей.
OpenAI прокладывает путь к современному глобальному порядку. В погоне за прогрессом его агрессивное стремление к масштабу определило новые правила развития ИИ. Технологические гиганты теперь соревнуются между собой в масштабах, тратя огромные суммы и перераспределяя ресурсы. Microsoft вложила 10 миллиардов долларов в OpenAI и уволила десять тысяч сотрудников, чтобы сократить расходы. Google объединила свои лаборатории искусственного интеллекта в Google DeepMind после того, как ее опередил OpenAI. Baidu перенаправила ресурсы с разработки лекарств на развитие ChatGPT. Число независимых исследователей, не финансируемых технологической индустрией, сокращается, что ограничивает разнообразие идей в области ИИ. Компании не могут позволить себе масштабные исследования из-за высокой стоимости разработки ИИ. Молодые ученые подчиняются новой норме, чтобы повысить шансы на трудоустройство. Беспрецедентные практики стали стандартом.
Сегодня империи богаты как никогда. По состоянию на январь 2025 года компания OpenAI достигла оценки в 157 миллиардов долларов, в то время как конкурент Anthropic был близок к сделке на 60 миллиардов долларов. Рыночная капитализация Microsoft утроилась и превысила 3 триллиона долларов после сотрудничества с OpenAI. Шесть крупнейших технологических гигантов, включая ChatGPT, в совокупности увеличили свои рыночные капиталы на 8 триллионов долларов. Однако растут сомнения в истинной экономической ценности генеративного ИИ. В июне 2024 года в отчете Goldman Sachs прогнозировалось, что расходы на развитие технологии достигнут 1 трлн долларов через несколько лет без ощутимых результатов. Опрос, проведенный исследовательским институтом Upwork в июле 2024 года, показал, что, хотя 96 % руководителей высшего звена ожидают, что генеративный ИИ повысит производительность, 77 % сотрудников, использующих эти инструменты, считают, что они увеличивают их рабочую нагрузку. Отчасти это связано с затратами времени на проверку контента, созданного ИИ, и растущими требованиями со стороны начальства. В ноябрьской статье Bloomberg сотрудники Парми Олсон и Каролин Сильверман выразили обеспокоенность тем, что генеративный ИИ может не выполнить свои обещания по широкому преобразованию экономики, а наоборот, сконцентрировать больше богатства на вершине.
Тем временем остальной мир начинает рушиться под тяжестью растущих человеческих и материальных издержек этой новой эпохи. Рабочие в Кении получают мизерные зарплаты, чтобы сдерживать насилие и разжигание ненависти с помощью технологий OpenAI, таких как ChatGPT. Художников заменяют модели ИИ, созданные на основе их работ без разрешения и оплаты. Журналистская отрасль приходит в упадок из-за технологий генеративного ИИ, распространяющих все больше дезинформации. Перед нами повторяется старая история, сигнализирующая лишь о начале этих изменений.
Глава 1. Божественное право
...В списке рекомендованных Маском книг была «Сверхразум: Пути, опасности, стратегии» оксфордского философа Ника Бострома. Бостром утверждает, что если ИИ превзойдет человеческий интеллект, его будет трудно контролировать и это может привести к катастрофическим последствиям. Например, продвинутый ИИ с такой простой целью, как изготовление скрепок, может рассматривать людей как угрозу своим ресурсам для производства скрепок. Бостром предложил решение: привести ИИ в соответствие с человеческими ценностями, чтобы предотвратить подобные проблемы с контролем. Эта концепция заложила основу для исследований по согласованию ИИ, которые впоследствии поддержал OpenAI. Маск с его обширной аудиторией в Twitter назвал книгу «достойной прочтения».
В январе 2023 года всплыло письмо, которое Бостром написал в LISTSERV в середине девяностых, заставив людей усомниться н его человеческих ценностях. В письме он выразил восхищение объективным мышлением и сделал спорное заявление о расе. Позже Бостром извинился за это письмо, назвав его «отвратительным» и не отражающим его истинных взглядов.
...Альтман освоил упаковку информации для СМИ и эффективное заключение сделок. Будучи генеральным директором малоизвестного стартапа, он вел переговоры о партнерстве с крупнейшими операторами мобильной связи США. Люди приписывают его успех исключительно умению слушать, готовности помочь и способности адаптировать свои предложения к конкретным потребностям. Сегодня, будучи богатым деятелем Кремниевой долины, он обладает значительными ресурсами. Люди прозвали его «Майклом Джорданом умения слушать», а Джефф Ралстон, сменивший Альтмана в YС, назвал его «Усейном Болтом фандрайзинга».
«По сути, когда вы привлекаете деньги, вы рассказываете историю о будущем вашего проекта. Эта история предполагает, что проект или компания добьются большого успеха», - объясняет Ралстон. «Сэм может рассказать убедительную и правдоподобную историю, в которой вы захотите принять участие».
Ралстон сравнивает его с полем искажения реальности Стива Джобса. Он объясняет, что Стив обладал способностью рассказывать историю, которая могла затмить все остальное в вашем мире. Искажал ли он реальность или создавал новую, влияние Стива было ощутимым. Он не просто искажал реальность, он делал ее реальной.
«И, очевидно, Сэм тоже».
Но есть и обратная сторона этой истории. Один человек, проработавший с Сэмом несколько лет, отметил, что он запоминает множество деталей о вас и очень внимателен. Однако этот человек также отметил, что Сэм использует эту информацию, чтобы влиять на вас различными способами. Сэм мастерски подстраивается под ваши слова, заставляя вас чувствовать, что вы продвигаетесь вперед ваших взаимодействий. В конце концов, вы можете понять, что на самом деле вы не продвигаетесь вперед, а просто стоите на одном месте.
Глава 2. Цивилизационная миссия
...Основная альтернатива финансирования - получение денег от правительства - также вызывала этические сомнения. В 2018 году тысячи сотрудников Google протестовали против секретного контракта компании с Пентагоном на проект Project Maven, программу создания беспилотных летательных аппаратов с искусственным интеллектом. Сотрудники опасались, что технология может привести к созданию автономного оружия. Пентагон, первоначально отрицавший это намерение, изменил свою позицию во время войны на Украине.
Среди исследователей искусственного интеллекта стал циничным рефрен: либо присоединиться к Big Tech или военно-промышленному комплексу, либо бросить исследования ИИ. OpenAI предстал как третий вариант, незапятнанный прибылью или влиянием государства. Чип Хуйен, инженер машинного обучения и технологический блогер, назвал его маяком надежды.
попутная инфа
В США существует проект Maven, который направлен на внедрение искусственного интеллекта в системы вооружённых сил. Система может анализировать разведданные, формировать списки целей, расставлять приоритеты и рекомендовать оружие практически без задержки по времени между обнаружением цели и её уничтожением.
Министерство обороны США предъявило Anthropic жёсткое требование: открыть Claude для полностью автономного выбора военных целей — без участия человека в принятии решения об ударе — или быть признанной «угрозой цепочке поставок». Цена вопроса — сотни миллиардов долларов государственных контрактов.
Google договорилась о предоставлении военному министерству США своих ИИ-моделей для работы с секретной информацией. Согласно контракту, «используемая система ИИ не предназначена и не должна использоваться для массового наблюдения внутри страны или для автономного оружия (включая выбор целей) без надлежащего надзора и контроля со стороны человека».
Google изменил политику применения искусственного интеллекта. Корпорация больше не обещает не использовать технологию для создания оружия и систем слежения. Обновлённые принципы компании гласят, что она будет полагаться на человеческий контроль, чтобы гарантировать, что использование её технологий соответствует «общепринятым принципам международного права и правам человека».
Anthropic, разработчик нейросети Claude, отказалась продать Пентагону право использовать свою модель «для любых законных целей». За это её внесли в чёрный список, президент приказал всем ведомствам «немедленно прекратить» с ней работать, а дальше был суд, который встал на сторону компании.
Ссылка
