DailyByte

Пока одни празднуют победу ИИ над математикой, в стане разработчиков зреет тихая паника. Один из пользователей описал ситуацию, которая становится новой нормой: он полгода не писал код сам, а только давал задания агентам. В итоге он «с трудом узнаёт свои проекты» и боится вносить их в резюме. Это не единичный случай. Многие признаются, что навык «писать код» атрофируется, как мышца без тренировки.

Но вернёмся к главному. Проблема не в том, что ИИ пишет код. Проблема в том, что люди перестают понимать, что именно он написал. Это приводит к эффекту ложной надежности: код безупречно проходит тесты , но работает непредсказуемо в реальных условиях, потому что агент где-то «по-своему» интерпретировал задачу. Особенно остро это в больших командах, где «вайб-кодинг» становится корпоративным стандартом.

Конечно, есть и те, кто сохраняет рассудок. Некоторые специально отключают ИИ-агентов и пишут код вручную, чтобы не потерять квалификацию. Но их всё меньше. Рынок диктует свои правила: если ты не используешь ИИ, ты проигрываешь в скорости. А если используешь - постепенно теряешь контроль над собственным продуктом. Это и есть «джет-двигатель на велосипеде»: безумная мощь, но управлять этим всё сложнее.

Тут самое неприятное. Пользовательница вела личный «дневник» в Claude. Что-то вроде терапии через переписку с AI. А потом пришла полиция.

Это не модель решила. Это «human review team» - команда живых людей, которые читают переписки пользователей. И передают в правоохранительные органы то, что посчитают угрозой.

Формально всё законно. В условиях использования написано, что компания может просматривать диалоги для безопасности. Но есть нюанс: люди думают, что общаются с машиной. Что это приватно. Что можно выговориться.

А по факту - это как писать дневник, который читает редактор, а потом передаёт нужным людям. Только дневник хотя бы лежит в ящике стола.

Я не оправдываю угрозы. Если человек реально планировал что-то опасное - реакция понятна. Но где граница между «терапевтическим выговариванием» и «угрозой»? Кто это решает? По каким критериям?

И главное - люди используют AI для вещей, которые никогда не доверили бы человеку. Потому что кажется, что это безопасно. А потом выясняется, что «безопасно» - это иллюзия.

Хотите приватности? Локальные модели. Да, они слабее. Да, нужно железо. Но никто не читает ваши диалоги через плечо.

Данные Epoch AI показывают: использование кодинг-агентов внутри OpenAI растёт примерно вдвое каждый месяц. Это не пользовательская статистика, а внутренние расходы компании на собственных агентов для написания кода.

Если цифра верна, это один из самых чистых сигналов того, насколько быстро агенты входят в реальный рабочий процесс. Не демо, не эксперимент, а ежедневная работа инженеров.

Масштаб важен: OpenAI - не маленькая команда, и удвоение каждый месяц на такой базе означает экспоненту, а не линейный рост. Через несколько месяцев это уже совсем другая структура разработки.

Я бы поставил на то, что через год вопрос будет не "используете ли вы агентов для кода", а "почему вы всё ещё пишете что-то руками". И ответ "потому что мне нравится" станет не аргументом, а личным выбором.

Nolla Health запускает пилот в Юте: ИИ диагностирует акне и назначает препараты пациентам без прямого участия человека. Это первый случай, когда штат разрешил технологии заменить роль врача.

Масштаб пока узкий - только акне, только Юта. Но сам прецедент важнее охвата. Если схема сработает, следующим шагом будут другие состояния, а потом и другие штаты.

Тут есть и обратная сторона: кто отвечает, если ИИ ошибётся? Регуляторы пока отвечают уклончиво, а компании торопятся занять нишу.

По-моему, это тот тип новостей, который через пять лет будет казаться очевидным, а сейчас выглядит как прыжок в неизвестность. И да, акне - удачный выбор для пилота: низкие риски, высокая частота, понятные протоколы.

Меняющиеся требования. Внутренние споры о том, как должны работать процессы. Сжатые дедлайны. И ИИ, который выдаёт результаты, требующие постоянного присмотра. Буквально как ребёнок, который вот-вот засунет палец в розетку.

И вот кульминация: их ИИ почти выплатил страховку за Tesla. Клиент разбил Camry. Но модель решила, что это Tesla. И никто не заметил, пока не стало поздно.

А теперь вопрос: сколько таких историй происходит каждый день в компаниях по всему миру? Сколько ИИ-систем принимают решения на основе галлюцинаций, а люди просто верят, потому что "это же ИИ, он умный"?

Самое страшное тут - это не сам факт ошибки. Это то, что люди готовы доверять ИИ слепо. Модель может выдать полную чушь с уверенностью профессора. И если рядом нет человека, который проверит - пиши пропало.

Так что если ты внедряешь ИИ в бизнес-процессы, запомни: ИИ - это не замена человеку. Это инструмент. И как любой инструмент, он требует контроля. Иначе будет как с той Tesla. Только в реальности это может стоить компании миллионов.