bizrobotics

bizrobotics

На Пикабу
130 рейтинг 5 подписчиков 0 подписок 18 постов 0 в горячем

Как ИИ алгоритм замораживает средства на счетах в банках?

Представь: заходишь в приложение банка перекинуть деньги, а оно не дает. Остаток на месте, цифры видно, но перевести или снять не выходит, будто твои же деньги накрыли стеклянным колпаком. Это не сбой и не хакеры, это блокировка, и с начала 2026 года она стала массовой. С первого января ужесточили закон 115-ФЗ и подкрутили 161-ФЗ, расширив основания для заморозки карт, и число временных блокировок карт и счетов у обычных людей рвануло до двух-трех миллионов, хотя привычная планка держалась в районе 330 тысяч переводов в месяц. За всем этим стоит автоматическая платформа Центробанка с добрым названием «Знай своего клиента», которая молча метит счета по подозрению в транзите и обнале. Ключевое слово тут «автоматическая»: решение о заморозке твоих денег принимает не хмурый инспектор, а алгоритм, сопоставляющий признаки. И под его горячую руку регулярно попадают не жулики, а самозанятые, фрилансеры и просто люди, которые ничего криминального не делали.

Работает эта штука как светофор, который с осени 2024 года стал даже публичным: зеленый цвет значит низкий риск, желтый средний, красный высокий, и любой может проверить по нему себя или контрагента. Один подозрительный признак банку просто повод задать вопрос, а вот три-четыре разом это уже заморозка до выяснения. Триггеры вполне конкретные: снимаешь больше трети недельных поступлений наличными, обороты крупные, а налогов платишь копейки, нет обычных для нормального бизнеса трат вроде аренды и зарплаты, деньги идут десяткам несвязанных между собой ИП и тут же уходят дальше. Отдельно система приглядывается к крупным операциям, к наличным от миллиона, к сделкам с недвижимостью и внешней торговле. Логика ясна, вот только под эти же признаки легко угодить случайно. Самозанятому клиенты-ИП переводят на личную карту похожие суммы за услуги, и алгоритм видит в этом схему. Продал человек машину, ему упал крупный разовый перевод, и счет замирает. Скинулись всей семьей на подарок через одну карту, и снова вопросы. Машина не различает, где обнал, а где обычная жизнь, она видит только совпадение шаблонов.

Самое неприятное начинается потом. Для Клиента блокировка выглядит как внезапная заморозка без предупреждения и без внятного объяснения, что именно не так. Живого сотрудника, который прямо скажет «вот из-за этой операции», обычно не выдают, ты пишешь в поддержку, тебя гоняют по кругу и просят документы, до которых надо еще самому додуматься. Вся конструкция перевернута с ног на голову: не банк доказывает, что ты нарушил, а ты доказываешь, что чист, и пока идет эта морока, деньги стоят мертвым грузом. Справедливости ради, банки не охотятся на честных людей ради спортивного интереса, за пропущенную схему обнала им прилетают серьезные штрафы от регулятора, так что их осторожность объяснима. Проблема не в злом умысле, а в том, что сеть заброшена слишком широко, и в нее вместе с настоящими жуликами постоянно попадает не та рыба. Только рыба эта живая, с ипотекой, зарплатой подрядчикам и горящими сроками, и расхлебывает чужую перестраховку она сама.

Первый порыв при заморозке это начать хаотично дергать деньги и звонить всем подряд, и это ровно то, чего делать не надо, потому что суета только добавляет подозрений. Спокойнее запросить у банка письменно причину ограничения и список операций, которые вызвали вопросы, а дальше методично закрывать каждую бумагами: договор купли-продажи машины, акт, честное назначение платежа, подтверждение, что перевод разовый и не про бизнес. Если банк уперся и держит счет без оснований, решение обжалуют выше, сначала через межведомственную комиссию при Центробанке, а при необходимости и в суде, и случаи, когда счет размораживали за пару недель, вполне реальны. А на будущее рецепт скучный, но рабочий: не выводить сразу все наличными, не гонять через свою карту чужие деньги транзитом, писать понятные назначения платежей и держать под рукой документы на крупные поступления. Обидно, конечно, что честному человеку приходится подстраиваться под робота и доказывать, что он не верблюд, но правила игры сейчас именно такие, и знать их дешевле, чем однажды остаться с замороженной зарплатой перед выходными.

Показать полностью

Без навигатора уже не доедешь, а письмо лень написать без нейросети. Мы что, тупеем?

Что показали исследования

Ловил себя на том, что без навигатора не доезжаешь до места, куда мотался сто раз, а короткое письмо коллеге проще скинуть на ChatGPT, чем сочинить самому? Похоже, это не просто лень. Ученые из медиалаборатории MIT посадили 54 человека писать эссе и разделили их на три группы: одни пользовались ChatGPT, другие обычным поиском, третьи опирались только на свою голову. На головах у всех были шапочки с электродами, снимавшие энцефалограмму прямо во время работы. Результат оказался неприятным: у тех, кто писал сам, мозг буквально пылал активностью, а в группе с нейросетью работа зон, отвечающих за обработку информации и креативность, шла на 55% слабее. Мало того, когда участников из ИИ-группы попросили дописать эссе уже без помощника, они с трудом вспоминали, что сами же пять минут назад сочинили. Авторы назвали это красивым термином «когнитивный долг», а параллельное исследование в Бразилии на 120 студентах показало похожее: чат-бот работает как костыль, который ослабляет долгосрочную память. Честности ради, работа MIT пока не прошла рецензирование, а выборка невелика, так что это не приговор, а скорее тревожный звоночек, который стоит услышать.

Почему мозг так охотно расслабляется

Тут нет ничего загадочного, наш мозг эволюционно ленив и обожает экономить энергию. Любую умственную работу, которую можно сгрузить на внешний инструмент, он с радостью сгрузит, и в этом смысле калькулятор, бумажка со списком дел и навигатор давно стали протезами нашей памяти и внимания. Загвоздка в том, что нейросеть забирает не хранение фактов, а само мышление: она анализирует, формулирует, придумывает за тебя, то есть выполняет самую ценную и трудную часть работы. Мозг похож на мышцу, без нагрузки он не растет, а слабеет, и если каждый раз получать готовый разжеванный ответ, крепкие связи в голове просто не образуются. Ты перестаешь тренировать навык продираться сквозь задачу, мучиться формулировкой, ошибаться и находить решение сам. А ведь именно это продирание и есть то, что мы называем умением думать. Убери его, и останется красивый фасад из чужих формулировок, за которым пусто.

Где реальная опасность, а где паника

Раздувать из этого конец человеческого разума не надо, данных пока мало, и это скорее про привычку, чем про выжженный дотла интеллект. Настоящая беда в другом, в том, что люди отдают нейросети именно ту работу, которую полезнее было бы сделать самому: набросать первую корявую мысль, поспорить с собой, родить черновик из ничего. Особенно тревожно за подростков, которые растут с ощущением, что любой ответ всегда лежит под рукой, а значит, углубляться и разбираться незачем, и у целого поколения навык самостоятельно думать рискует просто не сформироваться. При этом перекладывать на машину рутину это нормально и даже разумно, мы же не считаем в столбик и не помним наизусть сотню телефонов, как деды. Вопрос не в том, пользоваться ИИ или нет, а в балансе между тем, что не жалко делегировать, и тем, что стоит оставить себе, чтобы не разучиться. Грань эта у каждого своя, но само ее наличие полезно держать в голове.

Что с этим делать

Рецепт скучный, но рабочий: не проси у нейросети готовый ответ там, где можешь сначала пошевелить мозгами сам. Сформулируй свою версию, свой черновик, свою гипотезу, и только потом сверься с ИИ, так ты и мысль потренируешь, и ошибки поймаешь. Отведи нейросети роль дотошного редактора и спарринг-партнера, а не автора: пусть она критикует и дополняет то, что ты написал, а не пишет вместо тебя с нуля. Заодно не давай атрофироваться совсем уж базовым вещам, иногда считай мелочь в уме, вспоминай дорогу без подсказки, набирай важный текст руками, это дешевая гимнастика для головы. С детьми правило то же, только строже: сперва научи ребенка думать и ошибаться самому, а инструмент подсовывай уже поверх сформированного навыка. ИИ сам по себе никого не отупляет, отупляет привычка не включать голову, и единственная защита от интеллектуального банкротства это иногда честно посидеть над пустым листом один на один с собой.

Показать полностью

Банк отказал в кредите, а решение было вынесено алгоритмом, который шерстит твои соцсети

Как теперь решают, давать ли тебе кредит

Когда ты подаешь заявку на кредит, рассрочку или ипотеку, судьбу твоих денег почти наверняка решает не сотрудник, а скоринг, то есть автоматизированная система оценки платежеспособности. Классический скоринг ограничивался понятными вещами: кредитная история, доход, текущие долги. Модели на нейросетях залезают куда глубже. ИИ обрабатывает и неструктурированные данные, в том числе твое поведение в соцсетях и то, как ты пользуешься мобильными приложениями, а дальше сопоставляет сотни факторов разом и берется прогнозировать, не сменишь ли ты скоро работу, не намечается ли крупная покупка или пополнение в семье. От вердикта системы зависит не только сам факт одобрения, но и ставка с доступной суммой. Поверх этого банк проверяет твою долговую нагрузку, которую по закону обязан считать для любого кредита от десяти тысяч рублей, поднимает данные из бюро кредитных историй, пробивает по базе судебных приставов и своим внутренним черным спискам. Получается портрет, в который ты сам не заглядывал и который собран по кусочкам твоей цифровой жизни. Человек в этой цепочке появляется в лучшем случае в конце, а нередко не появляется вообще.

Почему банк говорит "без объяснения причин"

Знакомая многим стена: приходит отказ, а на вопрос «почему» тебе вежливо отвечают, что автоматизированная система не нашла достаточных оснований, и на этом все. Молчат банки по двум причинам, и обе показательны. Первая деловая: раскрой они логику скоринга, и люди тут же начнут ее обходить, подгонять анкеты и накручивать нужные признаки, поэтому принципы работы держат в секрете сознательно. Вторая причина куда интереснее: слишком сложную нейросеть иногда не может внятно расшифровать даже сам банк, она выдает балл, но прозрачной человеческой причины за ним просто нет. Решение есть, а объяснения нет ни у тебя, ни, по сути, у того, кто это решение вынес. Для Клиента это тупик, ведь без объяснения ты не понимаешь, что конкретно исправить перед следующей попыткой, и бьешься вслепую. А каждый новый отказ вдобавок оседает в твоей кредитной истории и тихо портит шансы на будущее.

Почему это тревожно, а не просто удобно

Сама по себе быстрая оценка рисков это не зло, банк честно скажет, что так он точнее видит платежеспособность и даже может предложить надежному Клиенту гибкий график или ставку получше. Все так, вот только у медали есть неприятная сторона. Тебя оценивают по данным, которые ты не выбирал и часто вообще не осознаешь: посты, активность в приложениях, геолокация, круг общения, манера гасить прошлые займы. Алгоритм ищет корреляции, и по косвенному признаку он может сцепить тебя с «рискованным» паттерном, к которому ты никакого отношения не имеешь, а доказать обратное нельзя, потому что внутрянку тебе не покажут. В мае 2026 года депутаты предложили обязать банки называть заемщику причину отказа, причем не только гражданам, но и малому бизнесу, для которого отказ это сорванная закупка или кассовый разрыв. Оговорка важная: саму скоринговую модель раскрывать все равно не станут, так что тебе назовут повод, но не пустят на кухню. Между удобной для банка скоростью и твоим правом понимать, за что тебя судят, баланс пока сильно перекошен не в твою пользу.

Что делать, если отказали

Первое: не рассылай заявки веером сразу в десяток банков, каждый запрос и каждый отказ фиксируется в бюро кредитных историй и роняет твой балл, делая только хуже. Прежде чем подавать снова, закажи собственную кредитную историю, дважды в год это бесплатно, и проверь ее на чужие долги и ошибки, они там встречаются чаще, чем кажется. Дальше приведи в порядок очевидное: сократи долговую нагрузку, закрой мелкие просрочки и не держи кучу неиспользуемых кредиток, потому что все это система видит. Раз уж скоринг читает твой цифровой след, имеет смысл хотя бы не мусорить в открытых профилях прямо перед подачей заявки. И проси у банка причину отказа, а если чувствуешь ошибку, требуй, чтобы заявку посмотрел живой сотрудник, а не только робот. Полной прозрачности тебе пока никто не даст, регулирование только нащупывает этот вопрос, а до тех пор единственная защита это трезво помнить: решение о твоих деньгах принимает машина по данным, которые ты в глаза не видел, и вести себя стоит с поправкой на это.

Показать полностью
4

ИИ забрал ставки у фрилансеров1

Года два все пугали друг друга, что нейросети оставят фрилансеров без работы, но вышло хитрее и обиднее: работу они пока не забрали, а вот ставки уронили в пол. Разработчик с одной из бирж честно рассказал, как вырос там с 40 до 270 тысяч в месяц, а к середине 2026 года проиграл заказ человеку, который назвал цену в пять раз ниже, и своими глазами видел техзадание с формулировкой «нужно, чтобы вы вайб-кодили мобильное приложение за 7 тысяч рублей». У копирайтеров и дизайнеров та же история, причем накрыла она их даже раньше: Клиент смотрит на тебя и думает, зачем платить за текст, если нейросеть выдает приличный каркас за двадцать долларов в месяц, и зачем платить новичку за простенький баннер, если связка Midjourney и Canva рисует его за пять минут. Один дизайнер описывал, как брал за лендинг 30 тысяч рублей, а потом ценник поехал вниз, потому что заказчик научился делать похожее сам. Показательна и другая цифра: по данным сервиса ЮMoney, больше половины фрилансеров уже вписали платные нейросети в обязательные рабочие расходы, то есть инструмент, который сбивает им же ставки, они теперь сами и оплачивают. Картина вышла невеселая, но, если приглядеться, не апокалиптическая, а просто честная переоценка того, кто чего стоит.

Почему просело именно дно рынка

Разгадка в том, что нейросеть отлично делает типовое и предсказуемое, а плохо справляется со сложным и ответственным. Черновой перевод, шаблонный баннер, каркас статьи, простой лендинг по образцу, все это машина выдает за копейки и за минуты. Беда в том, что именно на этих задачах кормились новички и крепкие середняки, и вот их сегмент и просел первым. Клиент теперь рассуждает предельно прагматично: если черновик можно получить почти даром, платить за него живому человеку глупо, и логику эту не переспоришь. Кто продавал себя только низкой ценой на массовых заказах, попал под каток сильнее всех, ведь в гонке «кто дешевле» у человека против нейросети шансов ноль. А вот верхушка рынка не просто устояла, а пошла в рост: спрос на опытных специалистов, которые берут нестандартное и отвечают за итог, только увеличивается, и топовые программисты на фрилансе поднимают до полумиллиона рублей в месяц. Рынок не схлопнулся, он расслоился, и трещина прошла ровно между теми, кто делал простое, и теми, кто тянет сложное.

Кто выиграл и почему это не конец профессии

Выиграли в итоге две категории людей. Первая это эксперты, к которым идут не за дешевизной, а за тем, чтобы задачу закрыли качественно и в срок, без трехмесячной головной боли, потому что Клиенты откровенно устали от лотереи с исполнителями. Вторая это те, кто перестал воевать с нейросетью и оседлал ее: один такой фрилансер рассказывает, как вышел на 150-250 тысяч в месяц, собирая для товарных карточек по 10-15 фотографий за пару часов там, где раньше уходил целый день. Его формула простая и злая: нейросеть делает основу, а он доводит результат до человеческого уровня и продает скорость вместе с качеством. Машина забрала рутину, но оставила людям то, что ей пока не по зубам: вкус, чувство стиля, ответственность за результат и живое доверие Клиента, который хочет говорить с человеком, а не с генератором. Так что профессия копирайтера или дизайнера никуда не умерла, просто из нее вымывается все, что легко повторить одной кнопкой. Обидно это в первую очередь тем, кто застрял на уровне «делаю ровно то, что теперь умеет бесплатная модель».

Что делать, если ты фрилансер

Первое и главное: не пытайся выиграть у нейросети в гонке «кто дешевле», на типовых задачах ты этот забег проиграешь всегда. Путей, по сути, два: либо ты уходишь вверх, в сложное, нишевое и ответственное, где нужна экспертиза и своя голова, либо осваиваешь ИИ и продаешь не сам факт работы, а скорость плюс доводку до ума. Гибридные навыки сейчас ценятся сильнее всего, дизайнеру полезно подтянуть нейросети, а копирайтеру SEO и аналитику, потому что связка «профессия плюс инструмент» делает тебя дороже одиночного скилла. Средний чек хорошо поднимают управление проектами, аналитика и английский, ведь выход на зарубежных Клиентов способен удвоить доход без смены специальности. И перестань гордиться тем, что делаешь «все руками», в 2026 году это уже не знак качества, а чаще способ медленно и дорого делать то, что рядом собирают за минуты. Рынок фриланса не умер, он стал жестче и честнее к квалификации: цену на посредственность нейросеть уронила, а на крепкий навык и надежного человека, который не подведет, наоборот подняла.

Показать полностью

У «самой красивой женщины в мире» 3 миллиона подписчиков. Только ее не существует

Что происходит с блогерами прямо сейчас

В конце декабря 2025 года в соцсетях появилась новая девушка-блогер, и уже к февралю на нее подписались больше трех миллионов человек, комментаторы восхищались ее грацией, называли самой красивой женщиной в мире, а один из роликов в TikTok собрал 328 миллионов просмотров. Небольшая деталь: этой девушки не существует, она полностью сгенерирована нейросетью, и поначалу аудитория об этом даже не догадывалась. Раскусили не сразу, а когда в движении лицо начало плыть и выглядеть ненастоящим, да еще выяснилось, что один ее ролик подчистую скопирован с видео реальной испанской блогерши. И это не единичный аттракцион: испанская ИИ-модель Айтана Лопес зарабатывает до десяти тысяч евро в месяц на контрактах с косметическими и одежными брендами, «ходит» на модные показы и снимается для глянца, оставаясь стопроцентной синтетикой. Виртуальные персонажи уже обгоняют по доходам изрядную часть реальных создателей контента, бренды выделяют под них настоящие деньги, а площадки пока не спешат вводить жесткие правила. По прогнозу, который приводит «Коммерсант», рынок таких блогеров растет на десятки процентов в год, и к 2030 году каждый третий автор в ленте россиянина вполне может оказаться нарисованным.

Почему бренды выбирают нарисованных людей

Логика бизнеса тут холодная, но железная. Живой блогер это ходячий риск: он может вляпаться в скандал, выгореть, задрать ценник, уйти к конкуренту или просто устать и пропасть на месяц. Нарисованный персонаж не болеет, не хамит в сторис, не требует прибавки и не стареет, а еще его можно клонировать сразу на пять ниш и мгновенно перезапустить, если что-то пошло не так. Главное для рекламодателя в том, что такой блогер целиком принадлежит ему: бренд сам решает, что и когда тот публикует, сам управляет аккаунтом, сам контролирует рекламную маркировку, без капризов и переговоров. Российский рынок эту логику уже подхватил, ритейлер «М.Видео» водит собственного виртуального блогера по имени Эм.Ви, которая ведет соцсети и снимается в клипах. Для компании это не человек с характером, а управляемый медийный актив, который работает по методичке и не зависит от настроения одной звезды. С точки зрения таблицы расходов все сходится идеально, вот бюджеты туда и потекли.

Где тут подвох и кого он бьет

Первыми под удар попали реальные блогеры, которым теперь приходится конкурировать с существом, что не ест, не спит и не просит гонорар побольше. Дальше идет аудитория, и вот это тоньше: ты подписываешься на «человека», проникаешься его образом, лайкаешь и доверяешь его советам, а за красивой картинкой нет ни личности, ни опыта, только маркетинговый конструкт и команда с промптами. Есть и юридическая дыра размером с пропасть, ведь визуал, сгенерированный нейросетью, в большинстве стран не принадлежит никому, потому что автором закон признает только человека, и в марте 2026 года Верховный суд США этот подход закрепил. На практике это значит, что твоего дорогого виртуального инфлюенсера конкурент может скопировать почти вчистую, и защититься будет крайне сложно. А местами за синтетикой прячется прямое воровство, как в истории с украденным роликом испанки, где реальный человек сделал работу, а лавры и просмотры собрал сгенерированный двойник. Отдельная ловушка ждет малый бизнес, которому под соусом хайпа впаривают «ИИ-блогера за 30 тысяч рублей», а на деле продают красивые цифры без единой продажи, потому что нейросеть не знает твою аудиторию и не построит тебе воронку.

Что это значит для нас

Как зрителю тебе придется отрастить новый навык, отличать живого автора от нарисованного. Признаки обычно те же: неестественно гладкая картинка, лицо, которое чуть плывет в динамике, подозрительно идеальная внешность без единого настоящего изъяна и молодой аккаунт с внезапным взлетом на миллионы. И самое практичное правило: не переноси автоматически теплое чувство к «блогеру» на товар, который он рекламирует, потому что за рекомендацией может вообще никого не стоять. Бизнесу тоже полезно спуститься на землю, ведь виртуальный персонаж это узкий инструмент под конкретные задачи, ровный управляемый маскот, а не волшебная кнопка, которая заменит живое доверие людей. Технология сама по себе не злодейка, у нее есть честные применения, вопрос лишь в том, что лайкать и любить того, кого физически нет, все-таки странновато. А раз к 2030 году такими персонажами обещают набить треть нашей ленты, умение отличать живое от сгенерированного скоро станет такой же базовой гигиеной, как когда-то навык отличать рекламу от обычного поста.

Показать полностью
1

В научных статьях ссылаются на исследования, которых не существует. Спасибо нейросети

Что нашли в свежих публикациях

Журнал Nature вместе с компанией Grounded AI провел проверку, от результатов которой становится неуютно. Они прогнали через специальный инструмент больше 4000 случайных научных статей, вышедших в 2025 году в пяти крупных издательствах, отобрали подозрительные и вручную перепроверили сотню из них. Итог: в 65 публикациях из 100 нашлась как минимум одна ссылка на исследование, которого в природе не существует. Когда проверили все 176 источников, на которые ссылались авторы, почти 20% оказались полностью выдуманными, а среди реальных около 45% содержали серьезные ошибки, вроде неверных цифровых идентификаторов работ. И это только видимая часть: по оценке самой редакции, счет затронутых статей может идти на десятки тысяч, а отдельные обзоры уже насчитали в сети порядка 150 тысяч выдуманных цитат и ссылок. Больше всего заражены открытые архивы препринтов, куда авторы заливают работы без строгой редактуры, это arXiv, bioRxiv, SSRN и PubMed Central. На том же SSRN к августу 2025 года галлюцинациями признали почти 2% всех ссылок, и цифра эта только растет.

Почему нейросеть врет так правдоподобно

Механика тут ровно та же, что и в любой другой галлюцинации языковой модели. Нейросеть не держит внутри библиотеку реальных статей, она комбинирует привычные шаблоны и лепит убедительную ссылку с красивым названием, фамилией автора, годом и журналом, вот только ведет эта ссылка в пустоту. Дальше срабатывает человеческий фактор: ученый под давлением сроков и гонки за публикациями просит нейросеть накидать обзор литературы, получает аккуратный список источников и вставляет его, не открыв ни одного. Причем чем уже и специфичнее тема, тем охотнее модель принимается сочинять, и в одном из тестов у популярных чат-ботов доля выдуманных ссылок доходила до 20-30%. К этому добавились фабрики статей, целые конторы, которые массово штампуют псевдонаучные работы под заказ, теперь еще и с помощью ИИ. Редакторы и рецензенты откровенно не справляются, потому что на глаз отличить грамотно сгенерированную пустышку от настоящего исследования становится все труднее. Научная экспертиза, которая держалась на доверии и ручной вычитке, впервые столкнулась с потоком мусора такого объема.

Почему это касается не только ученых

Можно отмахнуться, мол, пусть академики сами разбираются в своих сносках, но так не выйдет. На научных статьях стоит вся прикладная жизнь: по ним разрабатывают лекарства, пишут законы, проектируют мосты и учат студентов, и вымысел, просочившийся в фундамент, расползается дальше по учебникам, обзорам и поисковой выдаче. Дошло уже до судов: административный суд Таллина оштрафовал группу истцов за то, что они подкрепили свою позицию ссылками на авторитетные исследования о вреде сплошной вырубки леса, а эти исследования вместе с авторами целиком выдумала нейросеть, и суд расценил это как фальсификацию доказательств. Отдельно бьет по нервам сюжет с громкими прорывами: команда, стоявшая за известной ИИ-системой для расшифровки молекулярных структур, отрапортовала об открытии больше двух миллионов новых соединений, но независимая проверка показала, что большая часть датасета оказалась мусором или давно известными науке вещами, а исходную работу к тому моменту процитировали уже больше 700 раз. И вишенка, от которой все становится по-настоящему абсурдным: этим замусоренным массивом статей обучают следующие поколения нейросетей. Сначала люди кормят модель своими текстами, потом модель портит эти тексты выдумками, а на испорченном учится уже ее наследница, и круг замыкается.

Что с этим делать

Хорошая новость в том, что научный мир спохватился. Nature публично призвал журналы и рецензентов ужесточить проверку ссылок, а arXiv пообещал жестче фильтровать поток, плюс появляются инструменты, которые автоматически ловят битые и выдуманные цитаты. Но пока система перестраивается, простой навык спасает и тебя лично. Если ты студент, аспирант или просто человек, который тащит из чат-бота факты и ссылки в свою работу, возьми за правило открывать каждый источник по идентификатору и убеждаться, что он реально существует и говорит именно то, что тебе приписали. К шумным заголовкам про очередной научный прорыв относись с холодком и жди, пока результат кто-то повторит и подтвердит, ведь громкая цитируемость сама по себе еще не значит, что открытие настоящее. Наука умеет самоочищаться, но делает это медленно и со скрипом, а до тех пор фильтром работает обычная привычка проверять. И корень беды тут не в том, что нейросеть иногда фантазирует, а в том, что человек разучился перепроверять, доверившись красивому и уверенному тексту на экране.

Показать полностью
4

Ты веришь отзывам, которые сочиняет нейросеть

Насколько все плохо с отзывами

Знакомая любому сцена: выбираешь на маркетплейсе пылесос, у него 4,8 звезды и полторы тысячи отзывов, ты спокойно оформляешь заказ, а через три дня получаешь железку, которая разваливается после первой уборки. И ты такой не один. Исследователи из The Transparency Company прогнали через анализ 73 миллиона отзывов и выяснили, что 14% из них фальшивые, а около 2,3 миллиона почти наверняка написаны нейросетью. По другим оценкам, поддельных отзывов в Google примерно 10,7%, а на российских маркетплейсах их еще больше, порядка 12%, то есть подделкой может оказаться каждый восьмой комментарий, на который ты смотришь. Масштаб чистки говорит сам за себя: Tripadvisor только за 2024 год снес 2,7 миллиона подозрительных отзывов, а Google годом раньше удалил 170 миллионов, и это почти в полтора раза больше, чем в предыдущем. При этом появились сервисы, где нейросеть в полностью автоматическом режиме обрабатывает и публикует ответы на отзывы и вопросы вообще без участия человека. Живой диалог покупателя и продавца потихоньку превращается в переписку двух алгоритмов, а ты в этой схеме просто источник денег.

Как устроена индустрия накрутки

Накрутка отзывов существовала всегда, но нейросети превратили кустарный промысел в конвейер. Схема стоит на трех китах: самовыкуп, когда товар покупают сами же продавцы ради оценок, заказные положительные отзывы на себя и заказной негатив на конкурентов. Нейросети подняли качество подделки на новый уровень. Генеративная модель за копейки выдает сотни уникальных, разных по стилю и вполне живых на вид отзывов, где у каждого своя маленькая история про доставку и кота, обнюхавшего коробку. Топорные шаблоны с одинаковых аккаунтов, которые антифрод ловил на раз, отошли на второй план, и отличить сгенерированный текст от настоящего мнения человека на глаз стало почти нереально. Те же инструменты пишут за продавца вежливые ответы на жалобы, так что по обе стороны карточки все чаще трудится не человек, а бот. Индустрия получилась дешевой, быстрой и практически незаметной, а честная обратная связь как явление медленно обесценивается.

Почему площадки борются вяло и кого это бьет

Формально маркетплейсы сопротивляются: Ozon и Яндекс Маркет пускают отзывы только от тех, кто реально купил товар, а у Wildberries есть свой механизм против самовыкупа. Но вот что вскрылось в разборе на Хабре: площадки часто не удаляют фейк сразу, а применяют теневой бан, тихо срезая органические показы подозрительной карточки в выдаче, и продавец при этом видит красивый растущий рейтинг и радуется, не понимая, почему реальных покупателей все нет. Есть и обратная беда: во время таких зачисток под нож регулярно попадают настоящие отзывы обычных людей, и честный покупатель, который потратил время на развернутый комментарий, видит, как его мнение просто стирают. Платформа тут в положении между двух огней, ведь отзывы это ее валюта доверия и топливо продаж, а жесткая чистка бьет по обороту и по продавцам, поэтому воевать всерьез ей не всегда выгодно. В минусе в итоге двое: покупатель, купивший хлам по нарисованному рейтингу, и добросовестный продавец, чью карточку конкуренты топят заказным негативом или чьи честные отзывы улетают в общую мясорубку.

Как не купиться на фейк

Первое правило: не верь одной только средней звезде и количеству отзывов, эти цифры накручиваются легче всего. Спускайся в тексты и читай подряд, особенно оценки на три и четыре звезды, потому что именно там обычно прячется честная картина с плюсами и минусами. Настораживайся, когда отзывы подозрительно гладкие, сплошь восторженные, однообразные по интонации или вываливаются кучей за пару дней, ведь живые люди пишут вразнобой, а не хором, и антифрод как раз ловит аномальные всплески и однотипные комментарии с подозрительных аккаунтов. Смотри на конкретику и на реальные фото от покупателей, потому что бытовые детали и снимки распакованной коробки подделать сложнее, чем текст. Для услуг, кафе и мастеров кросс-проверяй репутацию на нескольких площадках сразу, ведь накрутить один сервис дешево, а десять одновременно уже хлопотно. И держи в голове главное: отзывы как источник правды слабеют на глазах, поэтому вес снова набирают живые рекомендации, будь то совет знакомого, разбор в тематическом сообществе или честная видеораспаковка, где человек крутит товар в руках. Технология обмана будет умнеть, но здоровая недоверчивость пока обходится дешевле, чем очередной пылесос, развалившийся на второй уборке.

Показать полностью

Приложение за вечер без единой строчки кода. Забыли предупредить, что через него утекут твои данные1

Откуда взялся вайбкодинг и почему его так много

Идея, которую сейчас продают из каждого утюга, звучит как сказка: тебе больше не нужен программист, ты просто описываешь нейросети словами, чего хочешь, а она пишет готовое приложение. Лендинг, простенькая игра, телеграм-бот, внутренний сервис для отдела, все это теперь реально собрать за вечер, не написав ни строчки кода самому. Называется это вайбкодинг, и в нем нет ничего плохого, пока дело касается игрушечных задач, где цена ошибки близка к нулю. Проблема начинается там, где на том же подходе люди лепят финтех-сервисы, стартапы и приложения, в которые Клиент заносит свои пароли, адреса и карты. Свежие исследования тут невеселые: по данным Wiz, каждое пятое приложение, собранное вайбкодингом, содержит серьезные уязвимости или грубые ошибки в настройке доступа. А аналитики, которые отслеживают, кто вносит дыры в реальный код, зафиксировали резкий скачок: к марту 2026 года набралось 74 подтвержденных случая, когда уязвимость в проект внес именно ИИ-инструмент, причем 35 из них пришлись на один только март против шести в январе. Технология молодая, а счет пробоин уже пошел на десятки задокументированных.

Почему нейросеть пишет красиво, но дырявый код

Причина не в том, что ИИ глупый, а в том, что его учили решать не ту задачу. Модель стремится выдать самый простой рабочий вариант, который заработает прямо сейчас, и если ты не потребуешь в запросе делать защищенные обращения к базе данных, она с высокой вероятностью напишет прямой запрос, открытый для классического взлома через SQL-инъекцию. Вдобавок она обучалась на горах открытого чужого кода, где полно старых известных брешей, и спокойно тиражирует их в твой проект. Результат предсказуем: SQL-инъекции, открытые наружу без всякого пароля интерфейсы и учетные данные, лежащие в коде прямым текстом, стали типовым набором, который всплывает чуть ли не в каждом втором аудите ИИ-кода. Самое коварное в том, что вайбкодер всего этого не видит, ведь он не программист и не отличает «работает» от «работает безопасно», для него зеленая галочка запуска и есть успех. Когда код собирается нейросетью и сразу идет в бой, граница между «работает» и «работает безопасно» просто исчезает, потому что сам ИИ-ассистент безопасность отдельной задачей не считает.

Почему это твоя проблема, а не только разработчиков

Тебе как пользователю глубоко все равно, кто и как писал приложение, в которое ты занес данные, важен только результат, а он бывает печальным. Одна из самых частых схем такая: база данных под приложением настроена с настолько широкими правами, что ее содержимое можно выкачать целиком в обход самого приложения, и так утекают гигабайты персональных данных живых людей, как это было в истории с сервисом Tea. Внутренние сервисы, которые делались для своих, случайно оказываются открыты всему интернету без пароля. И есть отдельная подлость облачных платформ, где все это добро крутится: дыра в одном общем модуле, вроде коннектора к платежному шлюзу, бьет разом по всем Клиентам сервиса, так что ты можешь сделать все аккуратно и все равно пострадать, потому что сосед по платформе написал кривой код. Это не страшилки, а продакшен: один основатель небольшого стартапа рассказывал, как из-за единственной строчки в сгенерированном коде потерял почти весь бюджет на запуск. А если ИИ работает в режиме агента и сам лазает по сети, добавляется еще и подстава снаружи, ведь злоумышленник может подсунуть ему вредоносные инструкции прямо на веб-странице, и в мае 2026 года исследователи Forcepoint показали, что такие атаки уже идут в боевых системах с успешностью выше 85%.

Что с этим делать

Начну с тебя как пользователя, потому что тут все просто. Не носи в каждый новый блестящий сервис свой основной пароль и полный набор данных: уникальный пароль на каждую площадку, минимум личного и отдельная виртуальная карта для сомнительных приложений экономят потом много нервов. Если сервис появился вчера, а уже просит доступ ко всему на свете, это повод насторожиться, а не радоваться скорости. Тем, кто вайбкодит сам, совет жестче: собранное нейросетью нельзя тащить в продакшен без проверки живым специалистом по безопасности, особенно если внутри деньги или чужие персональные данные. В промпте есть смысл прямо требовать безопасные практики, но полагаться только на это наивно, потому что аудит кода человеком нейросеть пока не заменяет. И трезвый вывод на будущее: вайбкодинг сам по себе не зло, для лендинга, прототипа или мелкой автоматизации это отличный ускоритель. Беда в том, что скорость запуска выросла в разы, а ответственность за чужие данные никуда не делась, только теперь дыру в них может проделать человек, который вообще не умеет читать код.

Показать полностью
Отличная работа, все прочитано!

Темы

Политика

Теги

Популярные авторы

Сообщества

18+

Теги

Популярные авторы

Сообщества

Игры

Теги

Популярные авторы

Сообщества

Юмор

Теги

Популярные авторы

Сообщества

Отношения

Теги

Популярные авторы

Сообщества

Здоровье

Теги

Популярные авторы

Сообщества

Путешествия

Теги

Популярные авторы

Сообщества

Спорт

Теги

Популярные авторы

Сообщества

Хобби

Теги

Популярные авторы

Сообщества

Сервис

Теги

Популярные авторы

Сообщества

Природа

Теги

Популярные авторы

Сообщества

Бизнес

Теги

Популярные авторы

Сообщества

Транспорт

Теги

Популярные авторы

Сообщества

Общение

Теги

Популярные авторы

Сообщества

Юриспруденция

Теги

Популярные авторы

Сообщества

Наука

Теги

Популярные авторы

Сообщества

IT

Теги

Популярные авторы

Сообщества

Животные

Теги

Популярные авторы

Сообщества

Кино и сериалы

Теги

Популярные авторы

Сообщества

Экономика

Теги

Популярные авторы

Сообщества

Кулинария

Теги

Популярные авторы

Сообщества

История

Теги

Популярные авторы

Сообщества

Недвижимость и ремонт

Теги

Популярные авторы

Сообщества