bizrobotics

Почему детектор в принципе не может работать точно

Корень проблемы в том, что ИИ-детектор не умеет распознавать нейросеть, он умеет только прикидывать вероятность. Он смотрит на признаки: слишком ровный ритм, гладкость, предсказуемость, отсутствие корявостей, и делает ставку. Беда в том, что грамотный, аккуратно написанный человеческий текст выглядит ровно так же, поэтому под подозрение попадает именно тот, кто пишет хорошо. Как это ломается, отлично видно на тесте vc.ru: летом 2025 года они залили в платный «Антиплагиат» чистый текст из ChatGPT, DeepSeek и Qwen и получили почти 99% оригинальности, детектор не поймал ни одну из трех моделей, а уже весной 2026-го тот же сервис принялся браковать самостоятельные дипломы. Разработчики просто перекрутили настройку с мягкой на агрессивную, и эти качели свойственны всему рынку детекторов, а не одной компании. Даже Turnitin, мировой лидер, еще в 2024 году признал у своего детектора 4% ложных срабатываний на полностью человеческих текстах. Показателен и эксперимент преподавателя МИФИ: он взял свою статью и сгенерированную на ту же тему, прогнал обе, и обе получили по 20% подозрений на генерацию. Сами детекторы, кстати, честно пишут обтекаемое «похоже, что текст сгенерирован», а вот уже вузовский чиновник превращает это осторожное «похоже» в железный приговор и отправляет переписывать.

Почему это несправедливо вдвойне

Самое злое в этой истории даже не ошибки алгоритма, а то, кого он наказывает. Студент, который реально сдул текст с ChatGPT и слегка причесал его под себя, чаще всего проходит, а честный автор с живым, нестандартным, личным текстом летит на пересдачу. Чтобы обмануть детектор, надо писать не свои мысли, а безопасные, обтекаемые, никакие формулировки, в которых машине не за что зацепиться, то есть система награждает серость и штрафует индивидуальность. Дичь ситуации в том, что студентке буквально пришлось делать свою работу тупее, чтобы доказать, что ее писал живой человек. В одном из описанных случаев девушка провела эксперимент: одногруппница целиком скопировала курсовую из нейросети и получила больше 70 баллов, а она сама, написав все от начала до конца, получила ноль и села переписывать. За всем этим стоит очень удобная для вузов подмена: живую оценку живой работы заменили процентом из робота, и теперь не преподаватель отвечает за решение, а бездушная цифра в отчете, с которой спорить бесполезно.

Что делать студенту и куда все катится

Если ты сейчас пишешь диплом или курсач, пара вещей реально снизит риск нарваться. Заранее выясни точные правила своего вуза, потому что пороги у всех разные и где-то допускают небольшой процент, а где-то требуют жесткий ноль. Аккуратно оформляй ссылки и цитаты, грамотно закавыченный и сосланный кусок детектор обычно не засчитывает как подозрительный. Сохраняй все черновики, промежуточные версии, заметки и скриншоты процесса, это твое доказательство авторства, если придется что-то оспаривать. И если тебя пометили ошибочно, требуй, чтобы работу разобрал человек, а не робот, ведь сам детектор выдает лишь вероятность, а не установленный факт, и это его прямая формулировка. А куда все катится, понятно уже сейчас: гонка детекторов и генераторов бесконечна, детектор всегда будет на шаг позади и всегда будет цеплять невиновных. Ужесточение бьет мимо цели, потому что ленивый спишет и обойдет фильтр, а страдает тот, кто честно сидел над текстом. И проблема тут вовсе не в нейросетях, а в том, что учебные заведения тихо переложили ответственность за оценку человека на программу, которая в принципе не способна отличить ум от шаблона.

Почему нейросеть врет так уверенно

Тут стоит разобраться в механике, потому что она объясняет весь этот цирк. Языковая модель не хранит в себе базу законов и решений, она предсказывает правдоподобный текст слово за словом, и если ей не хватает реального прецедента, она спокойно сочинит убедительный, с номером дела, датой и даже фамилией настоящего судьи. Выглядит это гладко, солидно и абсолютно достоверно, потому люди и попадаются. Дальше включается человеческая лень: юрист под дедлайном просит нейросеть усилить позицию, получает красивую подборку ссылок и относит ее в суд, не открыв ни одной. Так, например, адвокат в апелляции притащила 16 сфабрикованных цитат и потом честно призналась, что финальный документ перед подачей просто не перечитала. В другом деле программа-помощник для составления документов выдала две ссылки на несуществующие дела, а юрист заявила на слушании, что вообще не знала про способность нейросетей выдумывать факты. И вот это, пожалуй, самое тревожное во всей истории, ведь если про галлюцинации не знает даже человек с юридическим образованием, то что говорить об остальных.

Кто за все это платит

Суды реагируют жестко и, по-моему, справедливо. Позиция везде примерно одинаковая: юрист обязан проверять каждую ссылку в своем документе, пользовался он нейросетью или нет, а попытка подпереть свою правоту выдуманными делами это злоупотребление, которое вдобавок бьет по репутации всей судебной системы, ведь ложные выводы приписывают реальным, ныне работающим судьям. Отсюда и суммы: где-то два адвоката получают по 15 тысяч долларов каждый, где-то штраф в 2500 или 5000, а в российском случае это 50 тысяч рублей. Но у этой истории есть жертва потише и поважнее самих юристов, и это Клиент. Человек приходит к адвокату с реальной бедой, платит деньги, а его позицию разваливают выдуманные ссылки, которые поленился проверить его же защитник. И самое неприятное, что проблема давно вышла за пределы судов. Та же нейросеть с тем же невозмутимым лицом сочиняет тебе несуществующие лекарства, выдуманные налоговые правила и исторические факты, которых не было, а перепроверяешь ты ее, будем честны, куда реже, чем этот незадачливый адвокат.

Что с этим делать

Вывод простой и почти скучный: не верь нейросети на слово, особенно там, где цена ошибки высокая. Любую конкретику, которую она выдает, ссылки, цифры, цитаты, статьи законов, даты, имена, надо проверять по первоисточнику, а не по второй нейросети. Для черновика, структуры и мозгового штурма ИИ отличный инструмент, но в роли последней инстанции по юридическим, медицинским и финансовым вопросам он опасен, здесь он помощник, а не оракул. При этом технология сама по себе не мусор: в июне британская фирма впервые выиграла дело, где иск и все документы на досудебной стадии подготовил ИИ без участия живого юриста, а спор шел о взыскании долга в 7 тысяч фунтов. Разница между этим успехом и ворохом штрафов ровно одна, там за машиной проверяли, а тут ей слепо доверились. Так что беда не в том, что нейросеть иногда врет, машины ошибались всегда. Беда в том, что врет она красиво, гладко и с серьезным лицом, а мы за пару лет успели разучиться проверять.

Почему бизнес продолжает ставить ботов, зная все это

Логика тут циничная и предельно понятная. Первая линия поддержки это дорогой конвейер с текучкой и выгоранием, где человек по 200 раз в день отвечает на один и тот же вопрос про статус заказа, а бот делает то же самое круглосуточно и без зарплаты. Сама формулировка задачи внутри компаний часто звучит не как «давайте помогать Клиентам быстрее», а как «давайте сократим операторов», и вот тогда эффективность поддержки не растет, а падает, потому что человек все равно обращается второй раз и третий. Дальше включается мода, ведь в 2026 году не иметь ИИ-ассистента как-то неприлично, а на конференции нужно показать слайд про 70% автоматизированных заявок. Проблема в том, что цифры на слайде и реальность в чате связаны слабо, и исследование Naumen ровно это и показывает. Поддержка это ведь не только выдать справку, это снять напряжение, уточнить детали и взять на себя ответственность за нестандартную ситуацию, а именно этого бот не умеет вообще. Он не понимает, что человек уже на взводе, и отвечает на злое «почему мой аккаунт снова заблокирован» бодрой ссылкой на статью в базе знаний.

Почему это бесит сильнее, чем должно

Раздражение тут не от того, что бот тупой, а от ощущения, что тебя заперли. Ты проходишь весь сценарий, тыкаешь во все кнопки, пишешь «оператор», «человек», «живой человек», а тебе в ответ прилетает то же самое шаблонное сообщение по третьему кругу. Знакомая всем сцена: доставка сорвана, ты пишешь в чат, а бот бодро отвечает, что заказ в пути и что он всегда рад помочь. Человек, дошедший до звонка, по-хорошему уже доказал, что чат не справился, но и там его встречает робот, и разговор растягивается на 10 с лишним минут без единого живого голоса. И вот тут появляется деталь, от которой становится по-настоящему неуютно: на фоне вала жалоб некоторые компании начали возвращать живых операторов, но подают это как премиальную услугу. То есть возможность поговорить с человеком превращается из нормы в привилегию, за которую надо доплатить или дорасти до нужного статуса. Обычная вежливость стала опцией тарифа. Отдельная издевка в том, что 57% людей даже не понимают, бот перед ними или нет, а значит вежливые извинения, которые ты читаешь, скорее всего никто не писал и никому не жаль.

Что делать Клиенту и что делать бизнесу

Начну с практики, потому что она работает. Не спорьте с ботом и не пытайтесь объяснить ему свою беду человеческими словами, он не оценит, а сценарий у него конечный: ищите кнопку перевода на оператора, пишите короткое «оператор» или заведомо нестандартный запрос, вроде претензии или требования вернуть деньги, потому что такие вещи роботы обычно передают живым. Фиксируйте переписку скриншотами, дата и время потом пригодятся, если дойдет до жалобы или до суда. Не помогает вообще ничего, идите в публичное поле, потому что отзыв на людном ресурсе или пост в соцсетях до сих пор творят чудеса там, где чат бессилен, ведь репутация все еще стоит денег. А бизнесу тут стоит запомнить один простой вывод из того же исследования: бот хорош ровно там, где нужно разобрать поток и подсказать очевидное, и абсолютно бесполезен там, где нужно принять решение и извиниться по-человечески. Кнопка вызова оператора должна быть доступна на любом шаге, а не прятаться за семью экранами, иначе экономия на первой линии обернется потерянными Клиентами, которых потом придется покупать заново через рекламу. Обидно то, что все это давно понятно и написано в каждом втором отраслевом отчете, а нас все равно продолжают полчаса переспрашивать, чем еще может помочь виртуальный помощник.

На массовую вакансию сыпется по 200-800 откликов, из которых больше половины заведомо мимо, и рекрутер в этой куче тонет с головой. Один телефонный скрининг съедает у него минут двадцать, а бот прогоняет то же самое за пять минут и берет хоть сотню человек разом, поэтому по оценке Gartner ИИ на этапе отбора срезает время найма на треть, а то и вдвое. Для бизнеса это прямая экономия денег, и тут ничего нового, любой владелец режет расходы на рутине, как делал это всегда. Здесь сказываются и тренды на автоматизацию процессов: не поставил себе ИИ-рекрутера, значит, отстал, а конкурент уже хвастается, что закрывает вакансии в 2 раза быстрее. Проблема в том, что по ту сторону экрана сидит живой человек, у которого этот ИИ фильтр может отнять еще полгода жизни.

Почему это бесит и кого выбрасывает за борт

Главная беда алгоритма в том, что он тупой буквально. Он не видит ни харизму, ни опыт, ни контекст, он сверяет ключевые слова, структуру текста и время ответа, а в видеоинтервью еще и оценивает твою мимику, зрительный контакт и тон голоса. В итоге нормальный спец с нестандартным резюме или просто с другой формулировкой навыков вылетает как несоответствие, и это даже получило название, ложный отказ. Накиньте сюда цифровой след: острый пост, конфликтный коммент или фото с вечеринки могут стать причиной отказа, которую тебе даже не озвучат. А теперь самое абсурдное во всей истории. Соискатели давно сообразили, что резюме читает машина, и затачивают его под алгоритм тем же ИИ, а рекрутеры это резюме потом проверяют опять же нейросетью, так что живые люди из процесса почти выпали и наем превратился в соревнование машин, где до 90% информации живой эйчар даже не увидит. Роботы пишут резюме для роботов, а человек стоит где-то в стороне и ждет ответа месяцами.

И что с этим делать?

Победить систему в одиночку не выйдет, но подстроиться так, чтобы тебя хотя бы увидел живой человек, вполне реально. Первое: пишите резюме под конкретную вакансию, буквально забирая формулировки навыков из ее описания, потому что алгоритм ищет точные совпадения, а перебор модных слов ради галочки он наоборот засчитывает в минус. Второе: не прячьте важное в картинках и таблицах, бот криво читает PDF и половину ваших навыков просто не увидит, чем проще структура файла, тем лучше. Третье: почистите открытые соцсети перед активным поиском, цифровой след теперь часть резюме, нравится вам это или нет. Четвертое: к разговору с ботом готовьтесь не как к беседе с человеком, отвечайте структурно и по делу, без воды и обаяния, машине нужны факты, а не душевность. И держите в голове трезвую мысль: отказ за 37 секунд это чаще не приговор вашим скиллам, а сбой кривого фильтра. Обидно, несправедливо, но пока рынок живет по этим правилам, наверх выходит не самый сильный, а тот, кто разобрался, как через всю эту цифровую вахту достучаться до живого рекрутера.

Тут самое неприятное, и я скажу прямо: материал для подделки ты, скорее всего, выложил сам. Мошенникам хватает примерно десятисекундного куска твоего голоса, чтобы алгоритм заговорил твоим тембром. Десять секунд. Любое голосовое в открытом чате, кружочек в телеге, сторис, где ты что-то рассказываешь, подкаст, видео с дня рождения. Дальше нейросеть собирает копию, и кто-то звонит твоим родителям уже твоим голосом. Схема старая по сути, новая по исполнению. Классика жанра это «родственник в беде»: дрожащий голос ребенка или внука, авария, задержание, срочно нужны деньги, никому не говори, я сам не свой. Человек слышит родной голос, паникует и переводит, потому что в такой момент мозг не проверяет, а спасает. Вторая популярная история для тех, кто работает, это «фейк-босс»: тебе в мессенджер пишет или звонит как бы руководитель и просит срочно оплатить счет или скинуть данные. И это не страшилка ради просмотров. Еще в 2019 году сотрудник британской энергетической компании перевел мошенникам около 220 тысяч евро после звонка фейкового директора, а в Гонконге в 2024-м финансиста развели на 25 миллионов долларов, собрав на видеозвонке поддельных «коллег». Тогда это казалось чем-то из шпионского кино. Сейчас такой звонок может прилететь твоей бабушке.

Почему совет «придумайте кодовое слово» уже наполовину не работает

Любая статья про дипфейки заканчивается фразой «договоритесь с близкими о кодовом слове». Совет рабочий, но с дырой. В стрессе человек кодовое слово банально забывает, а живой собеседник на том конце подгоняет и не дает думать, потому что искусственная срочность это вообще главный их инструмент. Поэтому держи то, что реально помогает. Первое и самое тупое по эффективности: положи трубку и перезвони сам на нормальный номер. Не на тот, с которого звонили, а на сохраненный контакт. Дипфейк живет ровно до того момента, пока ты не выйдешь из навязанного разговора. Второе, если общаешься по видео и есть сомнения, попроси собеседника медленно провести ладонью перед лицом или потереть нос. Дипфейк в реальном времени пока несовершенен, и на стыке руки и лица картинка частенько плывет и двоится. Третье, почисти за собой биометрию. Зайди на Госуслугах во вкладку с биометрическими данными и отзови разрешения у сервисов, которыми не пользуешься, чтобы не оставлять качественный исходник. И четвертое, поговори с родителями. Не отправляй им ссылку на статью, а реально объясни своими словами, что их голосом и твоим голосом теперь могут позвонить кому угодно. Жертвы таких схем чаще всего люди пожилые, и их предупреждаешь только ты.

Что со всем этим делать дальше

Грустная правда в том, что догнать технологию законом пока не выходит. Нейросеть лепит убедительную копию человека за секунды, а экспертиза и суд тянутся месяцами, и отдельного закона про дипфейки в России нет, хотя обсуждают давно. Формально инструменты есть: подделка голоса и лица ради денег это мошенничество по статье 159 УК, а использование чужого изображения без согласия нарушает статью 152.1 ГК. Только Клиенту от этого не легче, когда деньги уже ушли. Так что единственная защита, которая работает прямо сейчас, это не доверять глазам и ушам по умолчанию. Звучит дико, но к этому придется привыкнуть. Голос больше не доказательство, что на том конце именно тот, за кого он себя выдает. И если завтра тебе позвонит кто-то очень родной и очень напуганный с просьбой срочно перевести денег, сделай одну простую вещь. Положи трубку и перезвони сам.

На первый взгляд новость выглядит как очередная футуристическая концепция. Однако на самом деле она отражает одну из самых серьезных проблем, с которой сегодня сталкивается вся индустрия ИИ.

Последние два года рынок сосредоточен на моделях. OpenAI, Google, Anthropic и другие Компании соревнуются в качестве генерации текста, анализа данных и создании агентных систем. Но за этим соревнованием часто остается незаметным другой процесс: вычислительные мощности становятся дефицитным ресурсом. Современные модели требуют огромного количества серверов, ускорителей и электроэнергии. По мере роста их возможностей растут и требования к инфраструктуре, а вместе с ними - стоимость разработки и эксплуатации.

Именно поэтому крупнейшие мировые игроки все чаще инвестируют не только в сами модели, но и в дата-центры, энергетику и производство вычислительного оборудования. Китайский проект показывает, насколько серьезно государства начинают относиться к этой проблеме. Если раньше конкуренция шла за данные и алгоритмы, то сегодня она все чаще идет за доступ к вычислительным ресурсам. Фактически инфраструктура постепенно становится таким же стратегическим активом, как сами ИИ-технологии.

Важно понимать, что перенос вычислений на орбиту пока остается сложной инженерной задачей. Однако сама постановка вопроса говорит о многом. Индустрия уже ищет новые источники энергии и новые способы масштабирования вычислений. И чем быстрее развивается искусственный интеллект, тем актуальнее становится эта задача как для государств, так и для Компаний, которые строят свои продукты на базе ИИ.