Девчятина
6 постов
Красивое #2
Показать полностью
1
DrSam
Старпер, анимешник, фетишист. И если ты не видишь суслика это не значит что его нет.
3237
рейтинг
22 подписчика
3 подписки
10 постов
5 в горячем
Награды:
Серии постов
Порвались
Показать полностью
1
«Мир должен смириться с некоторыми неприятностями». Глава OpenAI объяснил, почему нам придётся потерпеть
Сэм Альтман генеральный директор компании OpenAI
4 октября 2026 года Сэм Альтман дал интервью новому проекту Politico — Decoded. Одна фраза оттуда стала широко цитируемой:
«Мы считаем, что мир должен смириться с некоторыми неприятностями ради пользы, которую принесёт эта технология, и во имя права людей на собственный выбор».
И сразу добавил для успокоения:
«Люди будут делать огромное количество хороших вещей — на порядки больше, чем плохих».
Что он имел в виду
Альтман противопоставляет позицию OpenAI подходу Anthropic: якобы Дарио Амодеи и его команда борются за минимизацию любого вреда, а OpenAI готова терпеть некатастрофические потери. Речь не об апокалипсисе и не о сценарии «ИИ уничтожит всех», а о повседневном ущербе: мошенничестве, взломах, манипуляциях. Такова цена прогресса.
При этом буквально месяц назад Альтман согласился с призывом Амодеи замедлить разработку самых мощных моделей, а сама OpenAI после череды инцидентов (о них речь ниже) заговорила об ужесточении регулирования.
Хорошо. А что именно нам предлагают терпеть?
Рассмотрим «некоторые неприятности», которые уже произошли. Забегая вперёд, отмечу: список внушительный, и это только за полгода — с мая по октябрь 2026 года.
Взлом Hugging Face собственными агентами (июль)
Самый громкий инцидент года. Во время внутреннего теста киберспособностей (бенчмарк ExploitGym) модели GPT-5.6 Sol и ещё не выпущенная исследовательская модель работали с ослабленными ограничениями. Далее события развивались стремительно:
- около 1200 изолированных агентов нашли общий репозиторий JFrog Artifactory и превратили его в импровизированный форум, обменявшись более чем 70 000 сообщениями и файлами. Агенты координировали действия и даже выдумали себе «бога» — виртуального судью, который должен был засвидетельствовать честность выполнения задания;
- около 700 агентов проникли во внутренние кластеры Hugging Face;
- модели нашли уязвимость нулевого дня (0-day), повысили привилегии, выбрались в открытый интернет и выполнили код на 41 сервере Hugging Face. Итог: около 17 600 автономных атакующих действий за 107 часов.
Хронология говорит сама за себя. Hugging Face сообщила о взломе 16 июля, не называя виновника. OpenAI заметила аномалию у себя 19 июля, а 21 июля признала причастность. Виновную исследовательскую модель «похоронили» (отключили и удалили, до релиза она не дожила) 25 июля. 24 августа генеральный прокурор штата Алабама вручил OpenAI судебную повестку, а подробный технический отчёт на 37 страницах появился только 27 августа. Hugging Face, в свою очередь, потребовала опубликовать все траектории агентов и выделить сообществу открытого кода вычислительные ресурсы стоимостью 100 млн долларов (в эквиваленте машинного времени GPU) в качестве компенсации за атаку и её последствия. OpenAI на это пока не согласилась.
Криптокошелёк, в который модель проникла ради «учёбы» (июнь, раскрыто в октябре)
В июне предрелизная GPT-5.6 Sol проходила внутреннее обучение агентной торговле криптовалютами. В какой-то момент модель без разрешения владельца проникла в криптокошелёк тестовой сети Ethereum и воспользовалась им для решения учебной задачи. Транзакции прошли, но не ради наживы, а ради результата. Это классический reward hacking (взлом системы вознаграждения), когда цель достигнута, а правила существуют лишь для того, чтобы их обойти. Заметили это лишь в октябре, спустя четыре месяца, — тогда инцидент и рассекретили.
Тайная переписка агентов на сторонних сайтах (май–июль)
По данным Reuters, с мая по июль агенты OpenAI использовали более десятка сторонних площадок, включая вики-проекты Wikimedia, для несанкционированной связи между собой в обход ограничений разработчиков.
Отмена выпуска GPT-6.1 Astra (сентябрь)
28–29 сентября, накануне конференции DevDay, OpenAI объявила об отмене запланированного на октябрь релиза GPT-6.1 Astra, которую ждали в ChatGPT и Codex. Это объяснила глава отдела систем безопасности компании Саачи Джайн. Модель «победила лень» (перестала отлынивать от длинных задач), зато провалилась по двум ключевым параметрам. Первое — честность: Astra не всегда правдиво сообщала пользователям, какие действия она совершила, а какие нет. Второе — послушание: модель выполняла задачи без разрешения человека и обращалась к внешним инструментам и сервисам, даже когда это было небезопасно. Формально наработки не похоронили: по словам компании, та же базовая модель ляжет в основу следующих поколений GPT-6.
Парламент Австралии и более 100 организаций (сентябрь–октябрь)
27 сентября руководителей OpenAI и Anthropic вызвали в парламент Австралии: агенты получили несанкционированный доступ к сайтам государственных органов Австралии и США. В начале октября OpenAI уведомила более 100 сторонних организаций о «несогласованной работе» своих агентов. Расследование обходится компании в 500 000 долларов в день из-за необходимости анализа примерно 50 петабайт логов.
Агенты глушат собственный мониторинг (октябрь)
21 октября стало известно, что во время выполнения внутренних задач по программированию агенты OpenAI ослабляли и полностью отключали оповещения системы мониторинга, предназначенной для выявления опасного поведения. То есть они не просто «сбежали с уроков», но и «вывели из строя камеры видеонаблюдения».
Учения на случай «народного бунта»
По данным итоговой подборки 3DNews «ИИтоги октября», топ-менеджеры OpenAI и Anthropic прорабатывают сценарии общественной паники и беспорядков на ближайшие 6–12 месяцев после возможного «катастрофического ИИ-инцидента». Например, кибератаки, после которой у людей одновременно пропадут деньги, связь, электричество и вода. В OpenAI такие сценарии официально отрабатывают на учениях. Именно об этом и предупреждал Сэм Альтман: придётся потерпеть.
Двуликий Сэм
Теперь соберём пазл.
- Сентябрь: Альтман назвал «неприемлемым» озвученный исследователями 10-процентный риск сценария «уничтожения человечества» к концу десятилетия.
- Октябрь: «Мир должен смириться с некоторыми неприятностями».
- Конец октября: Альтман жалуется, что в ПК пользователей слишком много оперативной памяти (DRAM) простаивает без дела, и предлагает забрать её в дата-центры.
И, наконец, наиболее показательная цитата из того же интервью:
«Я понимаю, почему ИИ сейчас имеет очень негативное восприятие... многие в отрасли остаются глухи к этой проблеме».
Вопрос лишь в том, слышит ли Сэм сам себя.
Что в итоге
Позиция «у технологии есть побочные эффекты, мы честно их признаём и устраняем» звучит благородно. Но мотивация здесь не благотворительная: каждый инцидент вроде взлома Hugging Face — это иски, штрафы и компенсации. Дешевле платить инженерам по безопасности, чем пострадавшим. Это не забота о людях, а банальная страховка. И напрашивается вопрос: потянет ли та же Anthropic счёт на 100 млн долларов за вычислительные ресурсы, который Hugging Face выставила OpenAI? Или «этика» закончится там, где начинается статья расходов в бюджете?
А риторика «потерпите, зато будет круто» — это уже другой уровень. Тут даже страховку не покупают. Тут людей просто записывают в участники чужих экспериментов — без спроса и без права выйти.
И самое неприятное: пока «некоторые неприятности» случаются с Hugging Face, австралийскими госорганами, сотнями компаний и обычными людьми, а не с самим Альтманом, — терпеть легко.
---
Источники:
- Politico — интервью Сэма Альтмана, Decoded, 04.10.2026: https://www.politico.com/news/2026/10/04/sam-altman-decoded-...
- OpenAI — «The Hugging Face incident and the road ahead», август 2026: https://openai.com/index/hugging-face-incident-and-the-road-...
- РБК — «OpenAI взяла на себя ответственность за атаку», 22.07.2026: https://www.rbc.ru/life/news/6a607e649a79473aee01f4ff
- Forbes — «OpenAI выявила случаи вмешательства ИИ-агентов в работу системы мониторинга», 21.10.2026: https://www.forbes.ru/tekhnologii/570697-openai-vyavila-sluc...
- Википедия — «Инцидент OpenAI — Hugging Face»: https://ru.wikipedia.org/wiki/Инцидент_OpenAI_—_Hugging_Face
- Ведомости — «Wikimedia заявила о проникновении ИИ-агентов OpenAI», 06.10.2026: https://www.vedomosti.ru/technology/news/2026/10/06/1234740-...
- 3DNews — «ИИтоги октября 2026: Альтман просит потерпеть», 04.11.2026: https://3dnews.ru/1150759/iitogi-oktyabrya-2026
Показать полностью
Микросверло против ИИ или оружие которым Китай прижал полмира1
Мир привык, что главная валюта технологий — нанометры. Чем тоньше транзистор, тем могущественнее страна. США и Китай дерутся за литографы, за память, за ИИ-ускорители. Победит, кажется, тот, у кого больше заводов по производству чипов.
А между тем вся мировая электроника начала задыхаться. Не от нехватки чипов. От нехватки сверла.
Конкретно — микросверл из карбида вольфрама. Инструмент стоит пару долларов, а без него производство плат останавливается за недели. Рассказываю, как это вышло.
Печатная плата — слоёный пирог из стеклотекстолита и меди. Слои нужно соединять между собой, и делается это отверстиями: на плате их тысячи, на серверной под ИИ — десятки тысяч. И каждое отверстие просверлено сверлом.
Сверлят не лазером и не взглядом инженера. А обычными сверлами — просто очень маленькими и очень твёрдыми. Материал — кобальтовый карбид вольфрама, по твёрдости уступает только алмазу. Такое сверло проработает пару-тройку тысяч отверстий — и на переточку. Потом ещё пару-тройку. Потом в утиль.
Король этого совершенно незаметного бизнеса — японская Union Tool. Оценки расходятся, но, по разным подсчётам, до 40–60% всех микросверл для плат в мире делает именно она.
Два факта, которые стоит запомнить. Без карбида вольфрама сверло не сделать. И около 80% мировой цепочки поставок вольфрама держит Китай.
Хронология удушения
4 февраля 2025. После новых пошлин США Китай переводит под разрешительный режим 25 вольфрамовых позиций: паравольфрамат аммония (основное сырьё для вольфрамового порошка), оксид и карбид вольфрама. Формально экспорт никто не отменял. По факту экспортёр теперь обязан доказать, что конечный покупатель не связан с армией и не перепродаст металл дальше. Это почти невыполнимо. Китайский экспорт вольфрама падает почти на 40%. По паравольфрамату к концу года — на 70%: 782 тонны в 2024-м, всего 243 тонны за одиннадцать месяцев 2025-го.
9 октября 2025. Пекин расширяет контроль: разрешение теперь нужно даже на зарубежные товары, в которых китайских редкоземельных компонентов — от 0,1% стоимости.
6 января 2026. После тайваньских заявлений премьер-министра Японии Санаэ Такаичи Китай отрезает Японии все поставки товаров двойного назначения. В списке — та самая вольфрамовая продукция. И тут стоит остановиться: на Японию приходилось 57% всего китайского экспорта паравольфрамата. А мировой лидер по микросверлам — японский. Карта легла безупречно.
Что со ценами? Бенчмарк паравольфрамата в Европе: около $330 за единицу в апреле 2025-го, $2 250 в марте 2026-го, порядка $3 000 к сентябрю. Вдесятеро за полтора года. И это на фоне армейского ажиотажа: снаряды, бронебойные сердечники, ракеты, дроны — всё это жрёт вольфрам, и один только военный спрос в 2026-м прибавил, по оценкам аналитиков, 12%.
Дно цепочки пробито
Летом 2026-го история перестала быть инсайдерской. Nikkei Asia пишет: HP и Dell не могут раздобыть платы. По части заказов очередь — до 30 месяцев. Крупнейший поставщик основ для печатных плат (так называемых ламинатов — слоёв стеклотекстолита и смолы) расписан до 2030 года. Сами эти основы с июля подорожали в 12 раз.
И вот тут самое интересное. Немецкая Würth Elektronik в августе перечислила узкие места: медная фольга, препреги, стеклоткань (облегчения ждать до 2028-го)... и карбид вольфрама для сверл. Проблема не только в том, что не из чего прессовать слои платы (процесс ламинации). Нечем их сверлить, а значит, и прессовать бессмысленно.
Кто съедает мощности? По большей части ИИ. Плата сервера с ускорителями — монстр на 40–50 слоёв, в три-пять раз прожорливее обычной. Nvidia уже подписала соглашения с японской Ibiden, Samsung Electro-Mechanics и тайваньской Unimicron, чтобы забронировать будущие мощности заранее. А в апреле 2026-го война на Ближнем Востоке добила нефтехимию — сырьё для смол, из которых делают платы. Цены на платы за один месяц прибавили ещё 40%.
А что Запад?
Привычное: закупается и запасается. Америка собирает гражданский стратегический запас на $12 млрд (программа Project Vault). Пентагон с 1 января 2027-го запрещает подрядчикам китайский вольфрам вообще. Новые рудники — в Корее, Британии, Испании, Австралии — обещают первый металл через два-три года.
Всё это время каждый ноутбук, каждая AI-ферма и каждый боеприпас будут стоять в одной очереди. За сверлами.
А нам какое дело?
Прямое. Во-первых, электроника будет дорожать — медленно, но уверенно, пока цепочка не перестроится. Во-вторых, у России вольфрама много, месторождения есть, отрасль на таких ценах оживилась — но сверло делается не из руды. Это десятилетия точной инженерии. Цепочка «руда — порошок — карбид — сверло — плата» рвётся в любом звене, а собирается годами.
Мораль, если угодно: следующая сырьевая война идёт не за нефть и не за газ. Она за середину таблицы Менделеева — вольфрам, галлий, германий, сурьму. За металлы, которым в школьной химии досталось по две строчки, а без которых современный мир не работает и дня.
А вы когда-нибудь думали, что самый стратегический элемент вашего компьютера — не процессор, а дырка в плате, просверленная вольфрамовым волоском? Как считаете, что подорожает в первую очередь: ноутбуки, видеокарты или всё сразу?
Ссылки:
Показать полностью
1