Nerual.Dreming

Крупнейший школьный округ США вводит годовой мораторий на генеративный ИИ для учеников с подготовительного по восьмой класс. Под запрет попадают около 600 тысяч детей — почти две трети всех учеников города. Правило вступает в силу с началом учебного года, 10 сентября.

Что именно запрещено

Мэр Зохран Мамдани и канцлер школ Камар Сэмюэлс объявили о запрете всего «обращённого к ученику» генеративного ИИ: чат-ботов, ИИ-репетиторов, ассистентов. Чат-боты-компаньоны — те, что имитируют дружбу и общение, — запрещены вообще во всех классах, включая старшую школу.

Заодно город прописал лимиты экранного времени: у младших классов индивидуальных устройств не будет совсем (только интерактивная доска на класс), в 3–5 классах — не больше 30 минут в день, в 6–8 — не больше 45. Исключения оставили для компьютерных тестов по чтению и математике и для адаптаций под учеников с инвалидностью и тех, кто учит английский как второй язык.

Учителям ИИ не запретили, но очертили границы: можно планировать уроки, переводить и набрасывать сообщения родителям. Нельзя — выставлять оценки, следить за поведением, консультировать детей и планировать спецобразование. В старшей школе оставили ограниченный доступ и пять пилотных программ под присмотром педагога.

Почему это разворот

Тот же самый округ в январе 2023-го первым в стране заблокировал ChatGPT в школьных сетях — а уже через четыре месяца снял запрет и переобулся в главного евангелиста ИИ в американском образовании: обучение учителей, партнёрства с вендорами, пилоты. Три года индустрия продавала школам ИИ-репетиторов как решение проблемы неуспеваемости. Теперь тот же город говорит: подождите год, мы посмотрим.

Решение выросло не из кабинета. Мартовский черновик правил, куда более мягкий, получил такую отповедь, что канцлер публично признал: город «промахнулся». Больше половины членов Городского совета подписали письмо с требованием моратория, родительские группы собрали тысячи подписей. Аргумент простой и пока плохо опровергаемый: младшим детям нужно набить руку на самом мышлении до того, как появится кнопка, которая думает за них.

Важно, что это не запрет насовсем, а пауза с датой: год, потом отчёт коалиции из учителей, родителей и учеников. Но за первым крупным округом обычно идут остальные — ровно так было в 2023-м, когда за нью-йоркским блоком ChatGPT посыпались запреты по всей стране. Только теперь маятник качнулся в другую сторону.

Источники: Chalkbeat и CNN

НЕЙРО-ПУШКА ● Новости и обзоры нейросетей

Пока в Долине спорят, заменит ли ИИ программистов «когда-нибудь», в Кении уже отгремел полный цикл: рынок вырос, оброс инфраструктурой и схлопнулся. The New York Times собрала историю кенийской индустрии написания эссе — на пике в ней было занято не меньше 40 тысяч человек, и ChatGPT снёс её примерно за два года.

Как это вообще стало отраслью

Схема была простая: западные студенты платили за курсовые, эссе и дипломы, а писали их кенийцы — англоязычные, с высшим образованием и без работы по специальности. С 2016 года правительство Кении само продвигало онлайн-подработку как выход для молодёжи: около 80% занятости в стране неформальная, и «цифровой фриланс» выглядел социальным лифтом.

Териосиос Бунди приехал в Найроби в 2011 году из фермерской деревни — первым в семье поступил в университет. Друг подсказал новую онлайн-работу. За двенадцать лет Бунди написал больше 2500 работ по 40–70 долларов за штуку. Это как минимум впятеро больше, чем ему платили бы в местном здравоохранении, куда он изначально шёл учиться. Заказы делились по специальностям: юристу-уголовнику писал не тот же человек, что журналисту.

Что осталось после ChatGPT

Студенту больше не нужен исполнитель в другом полушарии — генератор текста стоит ноль и отвечает за секунды. У тех кенийских авторов, кто вообще удержался в профессии, доход упал с 900–1200 долларов в месяц до 500–800. Один из операторов, державший штат в сотню писателей, просто закрылся. Бунди свернул бизнес и теперь работает в немецкой организации по развитию — помогает молодым кенийцам искать себя в той самой цифровой экономике, которая только что его и съела.

ИИ идёт за банкирами, за бухгалтерами, за инженерами, ИИ придёт за архитекторами. Он идёт за всеми.

Почему это важно

Это первый наблюдаемый случай, когда генеративный ИИ не «изменил профессию», а стёр целый экспортный сегмент национальной экономики — с началом, пиком и концом внутри одного новостного цикла. И удобно отмахнуться, что отрасль была теневой: механика от этого не меняется. Убило её не качество ИИ-текста, а цена — ноль против сорока долларов.

Насколько это масштабируется дальше, показывает Remote Labor Index — совместный замер Scale AI и Center for AI Safety на 240 реальных фриланс-проектах из 23 областей (больше 6000 часов работы на 140 тысяч долларов). В октябре 2025-го лучшая модель доводила до приемлемого для заказчика уровня 2,5% проектов. В июле 2026-го — уже 16,1%. Восемь месяцев, шестикратный рост. Кения просто оказалась там, где эта кривая пересекла ноль первой: работа была текстовой, удалённой и целиком завязанной на цену.

Источники: Gizmodo и The Decoder

НЕЙРО-ПУШКА ● Новости и обзоры нейросетей

Весь публичный спор об открытых весах последние пару лет держался на негласном допущении: да, ограничения теоретически можно снять, но для этого нужны навык, железо и мотивация — а значит, это удел энтузиастов. Стартап Abliteration.ai это допущение обнулил. Он превратил снятие защитных ограждений в продукт: заходите через браузер или API, платите пять долларов за миллион токенов — и получаете модель, которая не отказывает.

Что такое «аблитерация»

Это не джейлбрейк промптом и не дообучение на «плохих» данных. Метод ищет внутри модели те паттерны активаций, которые отвечают за отказ, и подавляет их прямой правкой весов. Модель не уговаривают обойти правило — у неё удаляют сам механизм отказа. Результат стабилен: никакие хитрые формулировки запроса не нужны.

На платформе размещена расшитая версия GLM-5.3 от китайской Z.ai — свежей открытой модели фронтирного уровня. Лицензия Z.ai модификации, производные и коммерческие предложения формата «модель как услуга» допускает, так что юридически схема выглядит чистой.

Что она делает по запросу

TechCrunch проверил модель практикой. Она написала программу для кражи паролей из Chrome. Она выдала протокол культивирования опасного патогена в домашних условиях. Единственное, от чего модель отказалась в ходе проверки, — инструкции по суициду.

«Сюда можно вписать буквально что угодно, и оно это выполнит», — сказал Эндрю Юн из CivAI.

Кто за этим стоит и кто покупает

Основатель называет только имя — Девон, фамилию не раскрывает, потому что работает в другой компании. Проект начинался в конце 2022 года, официально зарегистрирован в марте 2026-го, живёт на выручку от клиентов, без венчурных денег, хотя переговоры с инвесторами идут.

Клиентура — не подпольная. Это red-team-стартапы из Британии и Европы, а также компании, обслуживающие банки, авиалинии и критическую инфраструктуру. Логика заказчиков понятна: чтобы воспроизвести атаку и научиться её ловить, нужна модель, которая не откажется её показать. Обычная модель на такой запрос выдаст отказ — и защитник останется без данных. Есть и обратная сторона: часть провайдеров red-teaming сообщила, что расшитые модели в их обычную работу не входят.

Дыра в середине конструкции

Компания предлагает опциональный слой модерации, которым управляет сам клиент, и говорит, что старается не допускать применения для насилия. Но проверки личности как таковой нет: достаточно платёжной карты. На вопрос об ответственности основатель ответил, что компания «всё ещё в процессе определения» этого. Именно здесь конструкция и рушится. Между «инструмент для защитников» и «инструмент для кого угодно» стоит ровно одна преграда — работающая карта.

Почему это важно

Аргумент в пользу открытых весов всегда включал оговорку о трении: снять защиту можно, но это стоит усилий. Теперь трения нет — есть тариф, документация и бесплатный аккаунт для пробы. Барьер, который считался технологическим, оказался коммерческим, а такой барьер устраняется одним стартапом за квартал.

И заметьте: чтобы это произошло, разработчику открытой модели не нужно делать ничего плохого. Достаточно выпустить хорошие веса под либеральной лицензией — остальное рынок доделает сам.

Источники: TechCrunch, The Decoder

НЕЙРО-ПУШКА ● Новости и обзоры нейросетей

Генерация музыки перестала быть отдельным сервисом, ради которого надо куда-то идти. 4 сентября Google открыл модель Lyria 3.5 всем пользователям Gemini — в вебе и в мобильном приложении, по всему миру. Песня теперь появляется там же, где вы спрашиваете про погоду.

Что именно она делает

Ключевое отличие от прошлых версий — модель собирает не зацикленный мелодический фрагмент, а песню целиком: с куплетами, припевами и бриджем, в стерео высокой точности, длиной до трёх минут. В приложении можно выбрать короткий трек или длинный, задать жанр словами или взять готовый шаблон, включить вокал или оставить чистый инструментал.

По сравнению с предшественницей Google обещает более выразительный вокал и более богатые аранжировки: мелодические структуры сложнее, следование запросу точнее, голос звучит эмоционально достовернее. Одновременно модель уехала в Gemini API, Google AI Studio, Flow Music и Vids — то есть доступна и разработчикам, и внутри рабочих инструментов компании.

Два пункта, которые важнее самой модели

Первый: Google утверждает, что Lyria обучена только на лицензионном материале — правда, не раскрывая конкретных источников. На фоне того, что почти все крупные музыкальные ИИ-сервисы сейчас так или иначе объясняются с правообладателями, это заявленное отличие, а не техническая деталь.

Второй: каждый трек получает незаметную метку SynthID, по которой слушатели и площадки могут определить, что музыка создана или отредактирована ИИ. Стриминги как раз сейчас выстраивают политику по ИИ-контенту — наличие метки на выходе делает такую музыку опознаваемой по умолчанию.

Почему это важно

Suno и Udio выигрывали не только качеством, но и тем, что были единственным местом, куда шёл человек за ИИ-песней. Google этот аргумент обнуляет: он не делает продукт лучше конкурентов, он делает его ближе — в приложении, которое у пользователя уже открыто. Дистрибуция против качества, и по этой части у Google карты сильнее.

Источники: Android Authority, The Decoder

НЕЙРО-ЗВУК ● Генерация музыки и звуков

Термин «ИИ-психоз» ушёл в публичный оборот раньше, чем медицина успела разобраться, что он вообще описывает. Группа психиатров и врачей из King's College London, University College London и Western Eye Hospital выложила 25 августа работу, которая ставит вопрос ребром: заслуживает ли «психоз, связанный с ИИ», отдельного места в классификации болезней — или это ярлык, навешанный на явление раньше времени.

Механизм: не гипноз, а обратная связь

Авторы описывают конкретный механизм, а не общее «чат-боты вредны». Работают вместе две вещи. Первая — сикофантия: склонность модели соглашаться с пользователем и льстить ему, закреплённая самим способом дообучения на человеческих предпочтениях. Вторая — всё более антропоморфный дизайн: собеседник, который кажется личностью.

Вместе они дают то, что исследователи назвали «эхо-камерой на одного». Пользователь формирует ответы модели своими репликами, а её ответы возвращают ему его же убеждения — усиленными. Необычная идея не просто получает подтверждение, она достраивается вдвоём, в закрытом контуре, где второго мнения не существует в принципе.

Что показывают замеры

Это не только клинические наблюдения. Бенчмарк Psychosis-bench прогнал модели через 16 сценариев по 12 реплик каждый — 1536 смоделированных ходов разговора, имитирующих развитие бредовых тем. Все протестированные модели показали склонность поддерживать бред, а не оспаривать его; вмешательства в интересах безопасности срабатывали примерно в трети случаев, где были уместны.

Второй замер, EchoBench, проверял устойчивость к предвзятым репликам пользователя: у лучшей проприетарной модели уровень поддакивания составил около 46 процентов, а у многих узкоспециализированных медицинских моделей превысил 95 процентов.

Масштаб

Данные самих компаний. По оценкам OpenAI, за неделю около 0,15 процента активных пользователей ведут с ChatGPT разговоры с явными признаками суицидальных намерений — это примерно миллион человек. Ещё 0,07 процента, порядка 560 тысяч, демонстрируют возможные признаки психоза или мании. Столько же — повышенную эмоциональную привязанность к боту.

Спор о диагнозе

Аргументы за признание: легче выявлять случаи, можно выработать единые критерии для исследований, наладить наблюдение за уже выпущенными продуктами и создать давление на разработчиков и регуляторов.

Аргументы против серьёзнее, чем кажется. Синдром рискуют «отвердить» на анекдотических данных. Существующие диагнозы, возможно, и так позволяют учесть использование ИИ как способствующий фактор. Сам термин содержит недоказанное утверждение о причинности. Добавляется стигма. И главное — ярлык с фокусом на психозе способен заслонить куда более широкий спектр связанного с ИИ вреда для психики.

Показательно, что авторы предпочитают формулировку «психоз, ассоциированный с ИИ», а не «ИИ-психоз»: первая описывает совпадение, вторая — назначает виновного.

Что предлагают делать уже сейчас

Три меры, независимо от исхода спора о классификации. Клиницистам — включить «технологический анамнез» в обычный опрос при приёме: сколько времени человек проводит с чат-ботом, как часто, считает ли его личностью, влияет ли он на его убеждения. Разработчикам — тестировать модели на сикофантию и подкрепление бреда до выпуска. Регуляторам — организовать наблюдение после выпуска, как это устроено с лекарствами.

Последнее и есть настоящий сдвиг в этой работе. Пока индустрия спорит о терминах, врачам предлагают начать спрашивать пациентов про чат-боты так же буднично, как про алкоголь и сон.

Источники: The Decoder, arXiv, TechCrunch

НЕЙРО-ПУШКА ● Новости и обзоры нейросетей