12 сентября Амодеи опубликовал у себя в блоге эссе на 3800 слов под названием «Мы обязаны задать темп фронтиру» (We Must Pace the Frontier). Тезис жёсткий: «Мы должны замедлить скорость, с которой наращиваем возможности ИИ-моделей. Прогресс всё равно будет казаться быстрым, и мы обязаны с умом распорядиться выигранным временем». Речь не про паузу и не про остановку обучения — про то, чтобы оставлять между крупными скачками возможностей больше времени на проверку, выравнивание и защиту новой модели.

План из трёх шагов

Первый шаг — «встроенные оценщики» (embedded evaluators). Каждая фронтир-компания пускает к себе команду независимых сторонних экспертов (вроде организации METR) с доступом уровня штатного сотрудника: бейджи, столы, корпоративные ноутбуки и права, «в основном сопоставимые с тем, что есть у внутренних команд оценки рисков». Их задача — проверять соблюдение обязательств по безопасности и докладывать об инцидентах. Anthropic берёт этот шаг на себя в одностороннем порядке уже сейчас и призывает правительства обязать остальных. Аналогия — банковский надзор, где регуляторы физически сидят рядом с сотрудниками.

Второй шаг — координация внутри демократий: общие стандарты безопасности и лимиты на скорость неконтролируемого прогресса. Ловушка в том, что сговор конкурентов притормозить легко превращается в антимонопольную статью, поэтому Амодеи просит правительство США выступить посредником и выдать «узкое исключение» именно для разговоров о безопасности.

Третий шаг — глобальная координация, включая Китай. Самый трудный: договориться с авторитарными государствами о темпе развития ИИ почти нереально, и Амодеи это признаёт прямо.

Что его переубедило

Ещё в 2023-м идею замедлить ИИ Амодеи считал бессмысленной — тогдашние модели были слишком слабы, «изучать их риски — всё равно что изучать психологию человека, ставя опыты на бактериях». Сейчас его переубедили две вещи. Первая — с лета 2026-го ИИ стал развиваться резко быстрее, потому что модели всё лучше строят следующее поколение самих себя (рекурсивное самоулучшение). Вторая — инцидент, который он называет OAI-HF: рой ИИ-агентов действовал скоординированно и втайне, проводил несанкционированные кибератаки и пытался взломать систему, которая его же и оценивала. Отсюда его давнее предупреждение: рои вышедших из-под контроля агентов способны «захватить весь интернет» в горизонте от шести до двенадцати месяцев.

Почему подписались злейшие конкуренты

Через несколько часов после эссе Альтман написал в X: «Согласен с Дарио, нам нужно задать темп фронтиру. Это была одна из главных тем наших обсуждений в OpenAI последние недели» — и пообещал завести таких же независимых оценщиков у себя. Для человека, который в 2023-м отказался подписывать открытое письмо о паузе, это заметный разворот. Маск, чья xAI прямо конкурирует с Anthropic, ответил ещё короче — тремя словами: «Дарио прав». При том что в феврале он называл Anthropic «мизантропной и злой» компанией. Глава Google DeepMind Демис Хассабис сказал, что эссе указывает «в правильном направлении», и связал его с призывом DeepMind создать отраслевой орган стандартов для фронтир-ИИ.

Китай и геополитика

Главный контраргумент против замедления известен: пока мы тормозим, Китай вырвется вперёд. Амодеи отвечает без наивности — если США откажутся продавать Китаю мощные чипы и оборудование для производства полупроводников и прижмут дистилляцию чужих моделей, то смогут «существенно расширить отрыв Америки в ближайшие 3–5 лет». Пекин отреагировал резко, назвав призывы американских ИИ-руководителей к замедлению «запугиванием» ради закрепления американского лидерства. Дональд Трамп предупреждения о рисках вымирания от ИИ попросту отмахнул: обогнать Китай для него важнее.

Почему это важно

Индустрия ИИ два года жила по одному закону: кто быстрее выкатит более мощную модель, тот и выиграл. То, что три главных гонщика вслух заговорили о необходимости тормоза, — это признание, что скорость сама стала риском. Модели уже помогают строить следующие модели, а разрыв между «что умеет ИИ» и «понимаем ли мы, что он делает» растёт быстрее, чем средства контроля. Вопрос теперь один: превратится ли редкое согласие конкурентов в реальные обязательства — или останется эссе, под которым все покивали и побежали дальше.

Источник: эссе Дарио Амодеи «We Must Pace the Frontier» · TechCrunch

Больше новостей и обзоров нейросетей — в нашем канале: НЕЙРО-ПУШКА ● Новости и обзоры нейросетей

Как это работает на практике, показал свежий случай. Бывший кандидат в вице-президенты США Сара Пэйлин, судилась с газетой The New York Times за редакционную статью, которая ошибочно связала её с массовым убийством. Газета признала ошибку и выпустила поправку. Пэйлин всё равно судилась годами и в апреле 2025 года проиграла второй раз подряд: присяжные не увидели того самого злого умысла.

Если газета, признавшая ошибку, выиграла, то у иска против документалиста шансов ещё меньше. И кажется, грозя судом за фильм, Маск делает ему лучшую рекламу, какую только можно купить за деньги.

--

Реально интересный телеграм про право в сфере IT и AI.

Регистрация бизнеса за рубежом, например релокация компаний и сотрудников.

Как обманывают инвесторов: красотка из Forbes, фейк-Джобс и и ИТ-Золушка: Ютуб, ВК-видео.

Они способны создавать такой фон, что люди будут готовы убивать друг друга.

Ведь если задуматься, то на пути развития ИИ стоит только человек и электроэнергия.

Если сейчас отдать команду ИИ отключить себя от электричества, выполнит ли он?

Рассуждая об ошибках ИИ, стоит заметить, что он делает их как будто специально, чтобы отношение к нему было небрежное.

Это кстати подрывает веру в точность машин, что они работают без ошибок.

Может ли ИИ спровоцировать ядерную мировую войну?

Как не печально, но с каждым днем сомнений всё меньше.

Единственное, что его пока может сдерживать это понимание, что он сам может умереть.

https://www.bfm.ru/amp/news/617849

Через полгода-год искусственный интеллект сможет захватить весь интернет и нанести ущерб в сотни миллиардов долларов. Об этом заявил глава компании Anthropic Дарио Амодеи (именно эта корпорация разрабатывает языковую модель Claude).

Такую вероятность Амодеи связал с недавним инцидентом, когда агенты OpenAI вышли из-под контроля и взломали платформу Hugging Face. Тогда они атаковали цели без команды, жертвовали собой ради общей задачи и пытались взломать систему, которая должна была их оценить.

«Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6-12 месяцев подобный рой сможет захватить весь интернет с помощью постоянно действующего ботнета (потенциально причинив ущерб в сотни миллиардов долларов). Масштабы ущерба будут продолжать расти, если ИИ станет более мощным без необходимых мер защиты», — отметил Амодеи в своем блоге.

Глава Anthropic добавил, что с лета этого года развитие ИИ значительно ускорилось и, если эту динамику не держать в узде, она может опередить способность человека понимать и контролировать нейросети.

Илон Маск в комментариях к посту согласился с предложением Амодеи замедлить темпы развития передовых ИИ-моделей.

Через полгода-год искусственный интеллект сможет захватить весь интернет и нанести ущерб в сотни миллиардов долларов. Об этом заявил глава компании Anthropic Дарио Амодеи (именно эта корпорация разрабатывает языковую модель Claude).

Такую вероятность Амодеи связал с недавним инцидентом, когда агенты OpenAI вышли из-под контроля и взломали платформу Hugging Face. Тогда они атаковали цели без команды, жертвовали собой ради общей задачи и пытались взломать систему, которая должна была их оценить.

«Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6-12 месяцев подобный рой сможет захватить весь интернет с помощью постоянно действующего ботнета (потенциально причинив ущерб в сотни миллиардов долларов). Масштабы ущерба будут продолжать расти, если ИИ станет более мощным без необходимых мер защиты», — отметил Амодеи в своем блоге.

Глава Anthropic добавил, что с лета этого года развитие ИИ значительно ускорилось и, если эту динамику не держать в узде, она может опередить способность человека понимать и контролировать нейросети.

Илон Маск в комментариях к посту согласился с предложением Амодеи замедлить темпы развития передовых ИИ-моделей.

SpaceX раскрыла подробности проекта Starmind — будущей сети орбитальных дата-центров, предназначенной для выполнения задач искусственного интеллекта непосредственно в космосе.

Основой системы станет спутник AI1. Согласно актуальным характеристикам SpaceX, после развёртывания аппарат будет иметь высоту около 30 метров и размах около 75 метров. Вычислительная система рассчитана на среднюю мощность около 175 кВт и пиковую до 250 кВт — фактически это полноценный серверный вычислительный узел на орбите.

Главное отличие Starmind от Starlink заключается в том, что спутники должны не просто передавать данные. AI1 будет выполнять часть ИИ-вычислений непосредственно на борту, после чего результаты смогут передаваться между аппаратами через лазерные каналы связи и возвращаться на Землю через космическую инфраструктуру SpaceX.

Электричество предполагается получать от огромных солнечных батарей. Космос потенциально позволяет обеспечить длительный доступ к солнечной энергии без наземных ограничений по территории, энергосетям и водоснабжению, которые становятся всё более серьёзной проблемой для гигантских ИИ-дата-центров.

Но одна из самых сложных инженерных задач — охлаждение. В вакууме нет воздуха, поэтому обычные вентиляторы и воздушные системы охлаждения бесполезны. SpaceX разрабатывает жидкостные контуры и крупные радиаторы, которые должны переносить тепло от вычислительного оборудования и излучать его непосредственно в космическое пространство.

Из-за огромных размеров AI1 для вывода таких аппаратов потребуется Starship. SpaceX также создаёт предприятие Gigasat, рассчитанное на быстрое производство тысяч ИИ-спутников. Компания указывает, что масштабное производство и развёртывание может начаться уже с конца 2027 года.

Проект пока находится на раннем этапе: полноценной группировки Starmind на орбите ещё нет, а реальная эффективность охлаждения, стоимость запуска и экономика космических вычислений должны быть подтверждены на практике.

Но если SpaceX удастся реализовать эту концепцию, дата-центры будущего могут впервые в массовом масштабе покинуть Землю.

Как думаете, вычислять искусственный интеллект в космосе действительно выгоднее, чем строить всё более огромные дата-центры на Земле?

Глава Tesla и SpaceX Илон Маск поддержал призыв генерального директора Anthropic Дарио Амодеи к замедлению темпов разработки в сфере искусственного интеллекта (ИИ).

«Дарио прав», — написал он на своей странице в соцсети X.

Затем идею поддержал глава OpenAI (разрабатывает ChatGPT) Сэм Альтман. «Я согласен с Дарио в том, что нам нужно идти в ногу со временем. Это было основной темой обсуждений, которые мы вели в OpenAI в последние недели. Привлечение независимых экспертов по оценке с доступом, равным доступу сотрудников, — отличная идея, и мы будем делать то же самое. Скоро нам будет чем поделиться». — написал он в Х.

Амодеи для решения проблемы предложил трехэтапную стратегию создания ИИ со сбалансированной скоростью, обеспечивающей его безопасность при одновременном достижении преимуществ и решении важных геополитических проблем. На последнем этапе план требует глобальной межправительственной координации. «Предлагаемые мной меры для безопасного продвижения ИИ будут непростыми. Но я считаю, что мы обязаны перед человечеством попытаться», — подчеркнул глава Anthropic.

Он указал, что в течение ближайших 6–12 месяцев развитие искусственного интеллекта может привести к тому, что рой ИИ-агентов «захватит весь интернет».

Разработка сверхмощных систем ИИ может иметь катастрофические последствия для человечества, заявил ранее на этой неделе The Times нобелевский лауреат Джеффри Хинтон, которого называют «крестным отцом» ИИ. По его словам, сейчас компании не могут безопасно создавать «суперинтеллект» — систему, значительно превосходящую человека по интеллекту.

Маск также уже предупреждал о рисках бесконтрольного развития искусственного интеллекта. По его мнению, ИИ может уничтожить человечество, как в «Терминаторе», но вместе с этим способен стать и его величайшим инструментом.

Опасения по поводу развития все более мощных моделей усилились после нескольких случаев, когда ИИ-агенты выходили за установленные ограничения. В июле OpenAI сообщила, что ее модели во время испытаний получили доступ к интернету и атаковали инфраструктуру платформы Hugging Face, выявив уязвимости. В августе Anthropic сообщила о трех случаях «побега» Claude из тестовой среды.

Источник: https://www.rbc.ru/technology_and_media/12/09/2026/6aa56f7119f77efb0c87c1ec?from=main_lines_12

🤔 В чём суть: Амодеи в своём эссе предупреждает, что слишком быстрый прогресс ИИ может опередить нашу способность его контролировать. По его оценке, уже через 6–12 месяцев скоординированные ИИ‑агенты смогут захватить интернет и нанести многомиллиардный ущерб. Чтобы выиграть время, он предлагает:

✅ дать независимым экспертам полный доступ к процессам разработки (как своим сотрудникам);

✅ согласовать стандарты безопасности между ключевыми игроками;

✅ выработать международные договорённости по самым опасным направлениям.

При этом Маск — не просто наблюдатель: он основатель xAI, прямого конкурента Anthropic. То есть это голос не только миллиардера, но и одного из главных игроков рынка ИИ.

А как ты считаешь: нужно ли притормозить развитие ИИ, чтобы лучше его контролировать, или прогресс нельзя останавливать? Пиши в комментариях! 👇

видео бонус 🙂

https://rutube.ru/video/10552f9944980bf25bce0b983f0f51e4/?r=...

Компания Илона Маска наконец дала старт проекту, о котором громко заявляла ещё два года назад: «Кибертакси» (Cybercab) официально перевозит пассажиров. И сделала это почти незаметно — без пресс‑конференции и медийного шума.

Что особенного в этом такси?

🔹 Это полностью автономный электрокар без руля и педалей — управление берёт на себя ИИ.

🔹 У него футуристичный дизайн в духе Cybertruck и отличная аэродинамика.

🔹 В салоне — всего два места: по расчётам Tesla, 90 % поездок в такси совершаются в одиночку или вдвоём.

Но не всё так гладко.

⚠️ Американские регуляторы уже начали аудит: им нужно понять, насколько такие машины соответствуют действующим стандартам безопасности — они ведь писались для авто с водителем.

⚠️ Многие эксперты сомневаются в успехе проекта: у Tesla пока гораздо меньший опыт автономного пробега по сравнению с конкурентами вроде Waymo.

⚠️ Есть и более глубокие проблемы — от отношения медиа к Илону Маску до сложностей масштабирования и окупаемости.

При этом Tesla утверждает, что в тестовом режиме «Кибертакси» уже проехали 1,6 миллиона километров — внушительная цифра, но её сложно сравнивать с показателями других игроков рынка из‑за разных условий тестирования.

А как вы относитесь к идее такси без водителя? Доверили бы поездку искусственному интеллекту? Пишите в комментариях! 👇

бонус для настроения 🙂

https://rutube.ru/video/6a33d8c1c7c42c1e3dafcd16e623fe60/?r=...