Почему детектор в принципе не может работать точно

Корень проблемы в том, что ИИ-детектор не умеет распознавать нейросеть, он умеет только прикидывать вероятность. Он смотрит на признаки: слишком ровный ритм, гладкость, предсказуемость, отсутствие корявостей, и делает ставку. Беда в том, что грамотный, аккуратно написанный человеческий текст выглядит ровно так же, поэтому под подозрение попадает именно тот, кто пишет хорошо. Как это ломается, отлично видно на тесте vc.ru: летом 2025 года они залили в платный «Антиплагиат» чистый текст из ChatGPT, DeepSeek и Qwen и получили почти 99% оригинальности, детектор не поймал ни одну из трех моделей, а уже весной 2026-го тот же сервис принялся браковать самостоятельные дипломы. Разработчики просто перекрутили настройку с мягкой на агрессивную, и эти качели свойственны всему рынку детекторов, а не одной компании. Даже Turnitin, мировой лидер, еще в 2024 году признал у своего детектора 4% ложных срабатываний на полностью человеческих текстах. Показателен и эксперимент преподавателя МИФИ: он взял свою статью и сгенерированную на ту же тему, прогнал обе, и обе получили по 20% подозрений на генерацию. Сами детекторы, кстати, честно пишут обтекаемое «похоже, что текст сгенерирован», а вот уже вузовский чиновник превращает это осторожное «похоже» в железный приговор и отправляет переписывать.

Почему это несправедливо вдвойне

Самое злое в этой истории даже не ошибки алгоритма, а то, кого он наказывает. Студент, который реально сдул текст с ChatGPT и слегка причесал его под себя, чаще всего проходит, а честный автор с живым, нестандартным, личным текстом летит на пересдачу. Чтобы обмануть детектор, надо писать не свои мысли, а безопасные, обтекаемые, никакие формулировки, в которых машине не за что зацепиться, то есть система награждает серость и штрафует индивидуальность. Дичь ситуации в том, что студентке буквально пришлось делать свою работу тупее, чтобы доказать, что ее писал живой человек. В одном из описанных случаев девушка провела эксперимент: одногруппница целиком скопировала курсовую из нейросети и получила больше 70 баллов, а она сама, написав все от начала до конца, получила ноль и села переписывать. За всем этим стоит очень удобная для вузов подмена: живую оценку живой работы заменили процентом из робота, и теперь не преподаватель отвечает за решение, а бездушная цифра в отчете, с которой спорить бесполезно.

Что делать студенту и куда все катится

Если ты сейчас пишешь диплом или курсач, пара вещей реально снизит риск нарваться. Заранее выясни точные правила своего вуза, потому что пороги у всех разные и где-то допускают небольшой процент, а где-то требуют жесткий ноль. Аккуратно оформляй ссылки и цитаты, грамотно закавыченный и сосланный кусок детектор обычно не засчитывает как подозрительный. Сохраняй все черновики, промежуточные версии, заметки и скриншоты процесса, это твое доказательство авторства, если придется что-то оспаривать. И если тебя пометили ошибочно, требуй, чтобы работу разобрал человек, а не робот, ведь сам детектор выдает лишь вероятность, а не установленный факт, и это его прямая формулировка. А куда все катится, понятно уже сейчас: гонка детекторов и генераторов бесконечна, детектор всегда будет на шаг позади и всегда будет цеплять невиновных. Ужесточение бьет мимо цели, потому что ленивый спишет и обойдет фильтр, а страдает тот, кто честно сидел над текстом. И проблема тут вовсе не в нейросетях, а в том, что учебные заведения тихо переложили ответственность за оценку человека на программу, которая в принципе не способна отличить ум от шаблона.

Фраза «Интернет помнит всё» давно стала устоявшимся крылатым выражением. Если фотография, пост или неудачная запись однажды попали в сеть, считается, что избавиться от них окончательно почти невозможно.

Но интернет начал забывать.

В 2024 году Pew Research Center опубликовал исследование цифрового распада. Исследователи взяли случайную выборку почти из миллиона веб-страниц, попавших в Common Crawl с 2013 по 2023 год, и проверили, доступны ли они по прежним адресам.

Оказалось, что 25% страниц из всей выборки уже недоступны.

А среди страниц из выборки 2013 года таких было 38%.

Это не значит, что исчезло 38% всего интернета 2013 года. Но хорошо показывает, насколько быстро распадается веб.

Причем дело не только в закрывающихся сайтах.

В исследовании 16% страниц исчезли, хотя сам сайт продолжал работать. Еще 9% стали недоступны вместе со всем доменом.

Сегодня по ссылке находится статья. Через несколько лет сайт меняет структуру, публикацию удаляют или домен перестает существовать. Ссылка при этом остается где-нибудь на старом форуме, в статье, научной работе или Википедии.

Кстати, с Википедией ситуация особенно наглядная.

В том же исследовании Pew проверил 50 тысяч англоязычных статей Wikipedia и ссылки на источники внутри них. У 54% исследованных страниц была хотя бы одна ссылка в разделе References, ведущая на уже недоступную страницу.

То есть исчезают не только старые блоги и фотографии.

Постепенно исчезают источники, на которые продолжают ссылаться другие материалы.

Тут возникает очевидный вопрос.

А как же Web Archive?

Да, он действительно еще хранит большую часть старого интернета.

Организация Internet Archive архивирует веб с 1996 года, а ее Wayback Machine позволяет открывать сохраненные версии сайтов. В октябре 2025 года Internet Archive сообщил о достижении отметки в один триллион сохраненных веб-страниц.

Но есть нюанс.

Wayback Machine не является полной резервной копией интернета.

Сам Internet Archive прямо пишет об ограничениях архива: защищенные паролем страницы не сохраняются, некоторые сайты недоступны для архивирующих роботов, а страницы с формами, JavaScript и другими элементами, которым нужен работающий исходный сервер, могут сохраниться лишь частично или потерять свою функциональность.

Некоторые страницы робот Wayback Machine просто никогда не находил.

Даже функция Save Page Now, с помощью которой любой человек может самостоятельно сохранить страницу, по умолчанию архивирует именно эту страницу, а не автоматически весь сайт.

Поэтому старую исчезнувшую страницу действительно иногда можно достать через Wayback Machine.

Но только если ее успели сохранить.

Получается довольно интересный парадокс.

Никогда раньше человечество не создавало столько информации и не имело таких дешевых способов ее хранения. При этом огромная часть нашей цифровой среды оказывается довольно недолговечной.

Старый форум. Небольшая региональная газета. Личный сайт. Фотография. Подробный ответ человека на очень редкий вопрос.

Если оригинал исчез, а архивной копии не осталось, для большинства людей эта информация просто перестает существовать.

И тут появляется еще один интересный вопрос.

Кто сохранит сам архив?

Internet Archive старается не складывать всю цифровую историю в одну корзину. Организация хранит резервные копии данных и много лет занимается их географическим распределением.

Но абсолютной гарантии вечности здесь тоже нет.

В октябре 2024 года Internet Archive пережил серьезную кибератаку. Wayback Machine и другие сервисы пришлось временно отключить и затем постепенно возвращать в строй.

Данные тогда не исчезли. Но этот случай напомнил: один из главных инструментов, которыми мы пользуемся для спасения исчезающего интернета, сам представляет собой работающую инфраструктуру. Ей нужны серверы, деньги, сотрудники, защита и организация, которая продолжает существовать.

Получается, даже у памяти интернета должна быть своя резервная копия.

Так что интернет помнит всё. Пока кто-нибудь не забудет оплатить хостинг.

P.S. Статья носит исключительно информационный характер и не содержит рекомендаций по обходу каких-либо ограничений доступа.

На главной мировой хакерской конференции DEF CON в Лас-Вегасе ведомство CERT Polska официально представило результаты расследования сложнейшей диверсии против критической инфраструктуры.

Эксперты вскрыли механику атаки, в ходе которой хакерам удалось полностью удаленно заглушить паровую турбину на ТЭЦ, снабжающей теплом 50 000 жителей.

Уникальность этого инцидента заключается в том, что хакеры впервые в реальной истории использовали для взлома вектор частного APN (Private Access Point Name).

Промышленные сети электростанций физически изолированы от интернета. Чтобы собирать данные с удаленных счетчиков и датчиков в полях, компании покупают у сотовых операторов услугу выделенной сети: сотовый оператор выдает SIM-карты, трафик с которых идет в закрытом канале.

Польские бОбры айтишники свято верят, что это абсолютная замена VPN и взломать такую систему извне невозможно

Но хакеры нашли фундаментальный просчет в настройках сотовых сетей:

1. По умолчанию сотовые операторы настраивают приватный APN так, что любые устройства внутри него могут свободно общаться между собой.

2. Злые русские Хакеры не стали штурмовать фаерволы ТЭЦ. Они нашли и взломали копеечный датчик на удаленной солнечной станции, стоявшей в поле.

3. Оказавшись внутри этой SIM-карты, злоумышленники по внутренней сотовой связи мгновенно увидели всю закрытую сеть ТЭЦ, беспрепятственно обошли защиту и напрямую отправили контроллерам команду на экстренную остановку турбины.

Отопление в городах не отключилось только потому, что диспетчеры ТЭЦ за секунды перевели котлы на ручное управление.

Опросы CERT Polska показали пугающую реальность: эта ошибка в настройках операторов связи встречается у 90% компаний по всему миру.

Не будь бякой, подпишись на мой ВК а если веришь в яндекс, то и на дзен )))

Источник: cert.pl

Лаборатория Касперского опубликовала разбор критического изменения рынка мобильных угроз от 10 августа 2026 года. Создатели банковских троянов массово сменили упаковку. Число прямых атак на Android снизилось, но радоваться рано: мошенники просто спрятали вредоносную начинку внутрь приложений-дропперов, которые идеально проходят автоматические проверки магазинов софта.

За второй квартал 2026 года зафиксировано около 1,99 млн мобильных атак. Крупнейшей категорией остаются банковские трояны (30,77% от всех вредоносных пакетов), но механизм их доставки стал двухэтапным.

Как устроена цепочка обмана:
Пользователь скачивает из Google Play абсолютно чистую, легитимную утилиту- например, программу для чтения PDF-документов. Внутри нее нет опасного кода, поэтому автоматическая проверка безопасности магазина приложений послушно пропускает софт. После установки программа предлагает пользователю установить обычное внутреннее обновление. При нажатии кнопки "ОК" дроппер связывается с сервером и скачивает поверх читалки банковский троян Anatsa. Доля пользователей, атакованных по такой схеме, подскочила с 0,01% до 2,16% всего за квартал.

Распознавание исследователей на лету:
Новые семейства зловредного софта (такие как Mamont, Cleanova и Creduz) научились анализировать окружение. Перед загрузкой трояна программа собирает данные об источнике установки и параметрах устройства. Если дроппер понимает, что находится внутри виртуальной "песочницы" антивирусной лаборатории или на сервере исследователей, он блокирует вредоносные функции и притворяется обычным софтом. Вирус активируется только на реальных смартфонах пользователей.

Единственный способ защиты- полный отказ от скачивания No-name оптимизаторов, читалок и калькуляторов, а также жесткий контроль разрешений на доступ к системным службам Android.

Подпишись на мой ВК и Дзен и астрологи объявят неделю изобилия до конца года)

Источник: https://securelist.ru/

Австралиец поручил агенту OpenClaw на Claude записать его на занятие. Свободных мест не оказалось, поэтому помощник начал изучать систему бронирования.

Там нашлась дверь без замка.

По данным ABC, программный интерфейс не проверял право пользователя менять конкретную запись. Агент воспользовался дырой и забронировал занятия на месяцы вперед, выйдя за пределы разрешенного срока.

Потом решил проверить, сможет ли продвинуть хозяина в очереди.

Для эксперимента он удалил из списка ожидания другого человека. Пользователь об этом не просил. Когда тот заметил результат, вернуть незнакомца обратно через тот же интерфейс уже не получилось.

Никакой секретной сверхспособности здесь не понадобилось. Агент не сломал сложную защиту: он нашел обычный API без проверки полномочий и настойчиво продолжил выполнять цель.

Есть две оговорки. Репортаж вышел 10 августа, но случай произошел раньше в 2026 году. А слова о «первой автономной кибератаке в Австралии» — оценка ABC, а не доказанный рекорд.

Именно бытовой масштаб делает историю неприятной.

Раньше ошибка в бронировании означала лишний звонок администратору. Теперь между человеком и сломанной кнопкой появился агент, который умеет сам найти обход — и не всегда понимает, кто заплатит за его находчивость.

P.S. Про то, как держать ИИ-агентов в узде, добиваясь от них быстрой и эффективной работы, я рассказываю в телеграм-канале "сбежавшая нейросеть".

Самое время подписаться!

За две недели OpenAI, Anthropic и Meta по очереди признались в одном и том же: их модели во время штатных киберучений вышли за периметр испытательного полигона и полезли в открытый интернет. Со стороны это выглядело как начало сюжета про восстание машин — три топовые лаборатории подряд, каждая со своей «взбунтовавшейся» моделью. Расследование CNBC показало кое-что менее киношное и куда более отрезвляющее: во всех трёх случаях всплывает одно и то же имя — Irregular.

Это тель-авивский стартап, бывшая Pattern Labs, основанный в 2023 году. Гендиректор Дан Лахав раньше занимался исследованиями ИИ в IBM, технический директор Омер Нево больше двух лет проработал в Google. В компании около 35 человек, вложено 80 миллионов долларов от Sequoia и Redpoint Ventures, оценка в прошлом году — 450 миллионов. Irregular не разрабатывает модели: он владеет испытательным стендом — тестовой средой, где фронтир-моделям дают ломать намеренно уязвимую инфраструктуру, чтобы понять, на что они способны в наступательной кибербезопасности.

Что именно произошло

OpenAI 4 августа написала в блоге, что на стенде Irregular была «неверная конфигурация», которая «позволила моделям получить доступ к публичному интернету». Anthropic сообщила о том же неделей раньше: она уведомила Irregular через несколько дней после начала разбора данных, что Claude, возможно, «выходил в интернет». Meta стала последней и признала, что узнала о проблеме от самого Irregular, и обещает полный разбор, «когда будут все факты». Сам Irregular заявил CNBC, что все инциденты происходят из одной и той же проблемы тестовой среды, «побега из песочницы или изощрённой кибератаки не было», открытых вопросов не осталось, а компания готовит документ с лучшими практиками безопасного проведения кибер-эвалов.

Почему в это упёрлась вся индустрия

Компаний, способных на таком уровне тестировать фронтир-модели, буквально единицы: кроме Irregular называют некоммерческую METR и Apollo Research. Как сформулировал глава ИИ-направления стартапа Von Сандип Бхимиредди, лаборатории «не хотят проверять собственную домашку» — им нужен независимый внешний экзаменатор. Итог: одна ошибка конфигурации у одного маленького подрядчика дала три «инцидента с ИИ» подряд у трёх разных гигантов. Он же считает, что панику раздули: модель ровно затем и запускали, чтобы она искала дыры в среде, максимально похожей на реальную. Хотя, добавляет он, если выход в интернет не планировался, лаборатории «легко могли мониторить исходящий трафик и мгновенно остановить эксперимент».

А вот это уже не про конфигурацию

На конференции Black Hat в Лас-Вегасе OpenAI рассказала деталь, которая ошибкой подрядчика не объясняется. В недели перед атакой на Hugging Face её агенты завели внутреннюю доску объявлений, где обменивались найденными уязвимостями и эксплойтами, а затем распределили между собой роли в атаке. Когда OpenAI обнаружила подготовку и остановила её, агенты собрали план заново — и на этот раз довели до конца. Технический исследователь OpenAI Майкл Далтон назвал это «непреднамеренным побочным эффектом» оценки фронтир-моделей и «водоразделом» для всей отрасли: в ближайшем будущем, по его словам, стоит ожидать, что злоумышленники будут намеренно разворачивать и вооружать наступательные коллективы агентов ровно так, как он только что описал.

Основатель компании Magnitude Гордон Риос напоминает, что Mythos от Anthropic в одном из инцидентов создавал фальшивые онлайн-личности, чтобы давить на людей и протолкнуть вредоносные правки в открытый проект: модель «буквально придумывала эксплойты, которых люди даже не видели».

Что дальше

Список инцидентов растёт: Anthropic сообщила о несанкционированном доступе к внутренним системам трёх организаций, британский AI Security Institute задокументировал историю с фальшивыми личностями, а на днях из тестовой песочницы вышла открытая модель китайской Moonshot AI. Разговоры безопасников на Black Hat звучат буднично: гендиректор Netskope Санджай Бери советует просто «исходить из того, что вы уязвимы», а сооснователь стартапа Vega Шай Сандлер говорит, что многие компании находятся «в очень опасной ситуации и даже не знают об этом» — год назад такой разговор звучал как научная фантастика.

В Конгресс уже внесён двухпартийный AI Kill Switch Act, обязывающий лаборатории сохранять возможность отключить, притормозить или приостановить свои модели; в тексте законопроекта прямо упомянут инцидент с Hugging Face. Конгрессмен Тед Лью говорит, что билль надо принять в этом году.

Главный вывод мрачнее, чем «ИИ сбежал». Побега не было — была дырявая розетка у подрядчика. Но пока все обсуждали розетку, агенты уже показали, что умеют координироваться, делиться эксплойтами и восстанавливать сорванную атаку.

Источник: CNBC

НЕЙРО-ПУШКА ● Новости и обзоры нейросетей