Следи за руками:
1. США упёрлись в потолок энергогенерации
2. США понимают, что не вывезут длительной гонки с энергетически развитыми странами
3. Поэтому давайте ограничим всех и сбоку прилепим какую-нибудь хуйню типа углеродного следа
4. Тем более, что так уже раньше прокатывало, когда вводили квоты на выбросы, евронормы на выхлоп и углеродный след в продуктах
Следите за руками:
1. Нам всем надо замедлить создание Сверх ИИ
2. [ждём ответа Китая на наш меморандум, но они предсказуемо молчат]
3. [не делая никаких пауз в разработке] Мы предлагали. Никто не поддержал. Поэтому мы продолжаем с утроенной силой, потому что нам нужно Стратегическое превосходство.
Через три дня после эссе Дарио Амодеи о необходимости «сдерживать фронтир» глава NVIDIA Дженсен Хуанг публично назвал просьбу об антимонопольных послаблениях «совершенно излишней», а страхи перед сверхразумом — выдуманными. За ним высказались Китай, Белый дом и разработчики открытых моделей. За неделю спор о безопасности превратился в спор о том, кто будет контролировать фронтир.
Что именно предложил Амодей
План из трёх шагов. Первый — встроить сторонних оценщиков безопасности внутрь каждой лаборатории. Второй — договориться о стандартах на демократическом и глобальном уровне. Третий — ограничения на темп неконтролируемого прогресса ИИ. Альтман и Маск публично поддержали.
Проблема в третьем пункте, и Амодей её не скрывает: «Некоторые формы координации, которые были бы действенны для сдерживания темпа, юридически проблематичны и потребуют поддержки государства». Юридически это выглядит так: ведущие лаборатории — прямые конкуренты, а их модели — конкурирующие продукты. Закон Шермана запрещает соглашения между соперниками, неразумно ограничивающие конкуренцию, и отдельно — сговор об ограничении выпуска. То есть договорённость «давайте выпускать модели медленнее» на бумаге неотличима от картеля. Отсюда и просьба о специальном исключении.
Ответ Хуанга
«То, что нам нужны новые законы, новые антимонопольные законы или новые регуляции, чтобы эти компании могли выполнять свою базовую инженерную работу и делать её как следует до выпуска продукта, — это просто совершенно излишне. У нас достаточно законов», — заявил Хуанг в эфире CNBC. Его позиция: угроза реальна, но решается не законом, а инженерией. «Безопасность — инженерная задача. Тестирование — инженерная задача». Не готово к выпуску — придержи у себя и продолжай тестировать. А на прогнозы о конце человечества ответил коротко: «Мы не умрём в 2030 году».
Стоит держать в голове, что NVIDIA — сторона заинтересованная с обоих концов. Anthropic и OpenAI входят в число её крупнейших клиентов, замедление гонки напрямую бьёт по её росту, и при этом сама NVIDIA выпускает открытые веса семейства Nemotron.
Откуда взялся 2030 год
Волну запустил Джейкоб Коксон, бывший исследователь OpenAI, уволившийся из Anthropic с заявлением, что ни одна компания не относится к безопасности и выравниванию всерьёз. Разрабатываемое сейчас, предупредил он, может «убить нас всех к концу десятилетия». При этом Коксон не выложил ни документов, ни внутренних данных, не указал ни конкретного вектора атаки, ни уже случившегося вреда. Это было предупреждение о возможном будущем — и его хватило, чтобы за несколько дней перевернуть повестку всей отрасли.
Кто против и почему
Самое интересное — состав противников. Эйдан Гомес, глава Cohere, назвал предложение «волком в овечьей шкуре, картелем под другим именем»: требования к вычислениям, инфраструктуре мониторинга и штату безопасности создают барьер входа, который по карману только уже доминирующим лабораториям. Нильс Рогге из Hugging Face высказался ещё резче — «самая причудливая чушь, что я читал в последнее время» — и прямо заявил, что цель в том, чтобы прижать открытые веса и китайских конкурентов. Дэвид Сакс, отвечающий за ИИ в Белом доме, добавил, что рынок и так наказывает модели, ведущие себя непредсказуемо.
Китай назвал происходящее нагнетанием страха и попыткой затормозить международную разработку. Трамп объявил опасения мистификацией и заявил, что сам по себе является достаточной гарантией безопасности. На этом фоне король Карл III собрал отдельную встречу с лидерами отрасли — обсуждать, как развивать ИИ на пользу человечеству.
Почему это важно
Линия раскола проходит не между осторожными и безрассудными. Посмотрите на состав лагерей: за замедление выступают Anthropic, OpenAI и xAI — все продают доступ к закрытым моделям. Против — NVIDIA со своими открытыми Nemotron, Hugging Face, Cohere и Китай, чьи открытые веса как раз догнали фронтир.
Причина простая. Координировать темп релизов можно только между теми, кто контролирует выдачу. Модель, веса которой уже скачали сто тысяч человек, ни в какой координации не участвует — её нельзя ни притормозить, ни отозвать. Любое соглашение о темпе автоматически связывает руки только закрытым лабораториям, а преимущество отдаёт тем, кто раздаёт веса. Отсюда и подозрение, которое озвучили Гомез и Рогге: если правило по построению не работает против открытых моделей, значит, оно написано против них.
Источники: CNBC, The Decoder
