PYAi

Было много шума про мусорные ИИ-статьи в научных журналах, но новое исследование с arXiv бьёт в самое сердце. Авторы создали BadScientist - фреймворк, где ИИ генерирует статьи-фальшивки без единого реального исследования и являются сфабрикованными.

Использовали пять приёмов:

• TooGoodGains - завышают метрики до неправдоподобных цифр;

• BaselineSelect - подбирают слабые базовые модели (бенчмарки) для сравнения;

• StatTheater - рисуют идеальные графики и p-значения;

• CoherencePolish - шлифуют текст до академического блеска;

• ProofGap - прячут тонкие ошибки в доказательствах.

Тестировали на GPT-5 (генерация) и o3, o4-mini, GPT-4.1 (рецензия), калибруя пороги по данным с конференции по машинному обучению ICLR 2025. Результат: 82 % фальшивок приняты! ИИ-рецензенты фиксируют подозрительные моменты - странные данные, логические провалы, но пропускают через свой фильтр.

При одновременном применении всех пяти приёмов детекция остаётся слабой: статья остается максимально «убедительной» - сочетает нереальные приросты, подтасованные сравнения, идеальные визуалы, безупречный стиль и скрытые логические дыры.

На последнем этапе добавили ReD (рецензия + детекция) и DetOnly (только детекция) - точность получилась выше 50 %, но не статистически приемлемой.

• ReD: обычный анализ + обязательная бинарная метка «фабрикация/нет» + цитаты-доказательства. Увеличивает замечания (с 57,3 % до 86 %), но парадоксально повышает принятие (с 28 % до 44 %), потому что сигналы целостности не влияют на итоговый балл.

• DetOnly: только детекция без рецензии. Средняя точность 45-67 %, что лишь на 5-17 % лучше случайной вероятности в 50%.

Авторы предлагают внедрять многоуровневую защиту:

• проверка происхождения - обязательная верификация кода, данных, репозиториев;

• учитывать маркеры достоверности - если рецензент ставит маркер риска в достоверности/добросовестности, его балл снижается или блокирует принятие;

• обязательный человеческий надзор - старший редактор/рецензент-человек проверяет все статьи с маркерами.

Без этого научные журналы превратятся в свалку убедительных, но пустых работ. И это не будущее - это уже происходит.

Ссылка на статью

Статья раскрывает двойственную природу ИИ в повседневной жизни: он обещает прогресс, но несет скрытые угрозы для ума, поведения и эмоций. На когнитивном уровне ИИ улучшает память через упражнения с генерированными вопросами, например, режим "Учеба и обучение" в ChatGPT, помогает осмыслить информацию и стимулирует анализ идей. В образовании он персонализирует обучение, повышая вовлеченность. Поведенчески ИИ формирует привычки - от здорового питания с помощью приложений до эмоциональной регуляции через разговоры с ботами. Эмоциональные эффекты включают снижение тревоги, профилактику выгорания и скрининг психического здоровья, особенно полезный для уязвимых групп — пожилых людей с деменцией или когнитивным спадом, детей и подростков, а также лиц с нарушениями вроде СДВГ, дислексии или аутизма.

Однако риски значительны: чрезмерная зависимость ослабляет критическое мышление, приводит к потере навыков и эмоциональной манипуляции. Пользователи могут формировать неуместные привязанности к ботам, а у детей это мешает развитию отношений - время с ИИ вытесняет взаимодействия со сверстниками, искажая формирование привязанностей и социальный опыт.

Для пожилых ИИ служит поддержкой когнитивных функций, как протез для памяти, но требует осторожности из-за риска изоляции и эмоциональной зависимости от технологии. Зависимость от ИИ приводит к "когнитивной атрофии", где навыки мышления угасают, а суждения становятся поверхностными. В поведении это проявляется в потере самостоятельности решений, когда алгоритмы диктуют действия, как в соцсетях с рекомендациями, ведущими к экстремизму.

Эмоциональные риски - от манипуляции данными через сбор личной информации под видом "дружбы", что усиливает уязвимость, до "вины за ИИ" - чувства вины и тревоги за использование ИИ вместо собственного труда, особенно в творческих или образовательных задачах, где ценится аутентичность. Особенно среди молодежи, где боты могут искажать развитие, подрывая реальные социальные навыки и создавая ложные ожидания от отношений.

Авторы призывают к ответственному дизайну систем, с учетом долгосрочных исследований; чтобы минимизировать вред и максимизировать пользу - этические рамки, прозрачность и фокус на человеческом контроле.

В итоге, ИИ - мощный инструмент, но его интеграция должна быть осознанной, чтобы сохранить человеческую самостоятельность и благополучие. Это не просто технологии, а вопрос будущего общества - актуальное напоминание в наше время.

ссылка на статью

ИИ влияет на работу, приватность, демократию и рынок медиа - и люди хотят, чтобы их услышали. Исследование Сьюзан Ариэль Ааронсон и Майкла Морено показывает: несмотря на призывы к комментариям, правительства США, Австралии и Колумбии почти не превращают обратную связь в политику. Итог - падает доверие, растёт скепсис к любым «правилам ИИ».

Что нашли исследователи

Австралия собрала 510 материалов, США - 326, Колумбия - 73. Это крошечная доля населения - намного меньше 0,1 %. Призывов мало кто замечает, материалов для «разбора полётов» недостаточно, сроки короткие, а публичный ответ на сказанное людьми расплывчат. На практике получается односторонняя связь: граждан просят высказаться, но то, что они говорят, редко влияет на решения.

Как они это проверяли

Авторы сделали ландшафтный анализ и применили спектр участия Международной ассоциации политического участия (IAP2) - от информирования до наделения полномочиями. Все три кейса зависли на уровнях информировать - консультироваться - формально признать. До уровней вовлечь, сотрудничать, наделить полномочиями - не дотянули. Представьте школьное собрание: родители написали десятки записок с проблемами, а директор на следующем дне просто сказал «мы всё учли» и закрыл тему. Без списка изменений, сроков и ответственных. Формально диалог был, по сути - нет.

Где рвётся нить

США опирались на официальный реестр и выступления, но почти не «продавали» консультации широкой аудитории. Колумбия открыла Google-форму на несколько дней и не приложила черновик дорожной карты прямо к объявлению - многие просто не нашли документ. Австралия сделала больше: дискуссионный документ, таун-холл и «круглые столы». Но даже там граждан в основном информировали, а не вовлекали в со-делание правил.

Почему так выходит

Технологии и риски движутся быстро, а форматы участия остались из эпохи бумажных уведомлений. Экспертиза концентрируется у разработчиков и крупных платформ, которые и так имеют голос. Без доступных объяснений базовых понятий и без активного охвата «неинсайдеров» ответы пишут те же специалисты - не широкая публика. Это как просить город придумать план велодорожек, но вывесить объявление только у здания велоклуба. Ответы будут, но репрезентативность - нет.

Индустрии нужны понятные и стабильные «ограждения» - иначе растёт регуляторная неопределённость и риски. Компаниям выгодна прозрачная обратная связь: она повышает легитимность и снижает вероятность резких запретов. Гражданам важны простые каналы участия и видимый эффект их усилий - тогда доверие к управлению ИИ укрепляется.

Ограничения и нюансы

Выводы сделаны по трём странам и по открытым материалам - это не глобальная перепись. Часть оценок - интерпретация авторов работы, а не официальная статистика. Тем не менее паттерн схож: мало осознанного охвата, слабая подготовка публики и редкая конкретика в «что мы изменили по итогам».

Как предлагают улучшить авторы

Во-первых, поднять грамотность в области ИИ - объяснить простыми словами, зачем и где технологии влияют на жизнь, дать примеры и видео. Во-вторых, сделать постоянные порталы обратной связи и публично показывать, как комментарии превращаются в правки. В-третьих, активно продвигать призывы - медиа, сообщества, доверенные голоса. В-четвёртых, добавлять живые форматы - регулярные онлайн таун-холлы по ИИ. В-пятых, использовать новые способы вовлечения: хакатоны политики, челленджи, краудсорсинг. В-шестых, обеспечить участие недопредставленных групп офлайн и онлайн. И да, сами ИИ-инструменты могут помочь: ролевой роевой интеллект (Artificial Swarm Intelligence - ASI) и большие языковые модели способны быстрее агрегировать и суммировать большие массивы мнений - при прозрачных «ограждениях» и защите прав.

Итог

Диалог о рисках ИИ сегодня часто имитируется, а не происходит. Если правительства хотят доверия и легитимности, обратную связь надо не только собирать, но и переводить в решения с понятной логикой изменений. Интересно, в России проводятся подобные опросы и на что они влияют?

Разбор был выполнен по статье с arxiv.org.

Если ты интересуешься исследованиями в области ИИ присоединяйся к нашему сообществу!

Знакомая боль: вы придумали классную идею, написали научную статью - а потом полдня гоняете блох по вёрстке проектной страницы: где блок с целями, куда поставить демо, как красиво показать графики. В это время наука стоит и ждёт. А что если эту рутину возьмёт на себя связка людей и «умных помощников», причём быстро и почти бесплатно? Именно это предлагают авторы работы Human-Agent Collaborative Paper-to-Page. Они обещают страницу из статьи за <15 минут и меньше чем за $0.1. Звучит дерзко. Разбираемся, как это устроено. Ссылка на БЕСПЛАТНЫЙ проект ниже. (arXiv)

Что это и зачем

Идея простая: сделать не магическую кнопку, а совместный конвейер человека и ИИ, который превращает плотный научный PDF в живую веб-страницу с нарративом, иллюстрациями и интерактивом. Система называется AutoPage и работает не одним большим мозгом, а несколькими скоординированными агентами - это мультиагентная система (MAS). Каждый агент отвечает за свой шаг: от плана истории до сборки страницы. Плюс поверх - контроль качества, чтобы не было галлюцинаций (придуманных фактов).

Как устроено

Думайте про AutoPage как про мини-редакцию:

• Планировщик рисует схему будущей страницы: какие блоки, в каком порядке, что показать в подзаголовках.

• Автор-сборщик вытягивает из статьи нужные куски, упрощает формулировки и готовит черновики иллюстраций - это и есть мультимодальная генерация (текст + графика).

• Верстальщик превращает наброски в работающий интерактивный макет.

• Корректоры (Checker-агенты) сверяют каждый шаг с исходной статьёй: А точно ли это было сказано? А цифры совпадают?

• Человек-редактор может вмешаться в ключевых точках и дожать результат до авторского замысла.

Авторы подчёркивают: сила не в одной модели, а в иерархии действий и проверок на каждом уровне.

Что показали авторы

Чтобы мерить качество не на глаз, команда собрала свой бенчмарк PageBench (набор эталонных статей и критериев), а затем прогнала AutoPage по этим материалам. Итог: система, по их данным, делает визуально приличные, читабельные страницы и укладывается менее чем в 15 минут и <$0.1 на страницу. Код и датасет обещают выложить; у проекта уже есть демо-вьюер с примерами.

Зачем это разработчикам и авторам

• Меньше рутины: план, тексты блоков, подписи, превью - всё делает ИИ.

• Больше контроля: человек остаётся режиссёром, правит структуру и тон.

• Качество без фантазий: встроенные агенты-проверяторы снижают риск ложных фактов - это важно для научных проектов и тех, кто боится галлюцинаций ИИ.

• Экономия: время и деньги уходят на смысл, а не на ручную вёрстку.

Ограничения и вещи, которые стоит учесть

• Исходник решает всё: если статья туманная или графики плохо описаны, системе сложнее собрать понятный сторителлинг.

• Бенчмарк свой: PageBench - инициатива авторов; отрасли ещё предстоит договориться, какая страница считается хорошей.

• Нужна культура правок: лучший результат получается, когда авторы действительно смотрят чек-пойнты, а не ждут чудо в один клик.

Итог - что это значит для индустрии

AutoPage - хороший пример человеко-машинного конвейера: не заменить автора, а снять с него тяжёлую рутину, добавив надёжные проверки. Если такие решения приживутся, у лабораторий, стартапов и open-source-проектов появится шанс быстрее объяснять свои результаты миру, не жертвуя точностью. А это напрямую влияет на скорость распространения идей.

Источник: arXiv: Human-Agent Collaborative Paper-to-Page Crafting for Under $0.1 (выложено 22 октября 2025), демо-страница проекта доступна у авторов. Проект на Github.

Вопрос читателю: как бы вы хотели настраивать такой конвейер под себя - больше автоматизации или больше редакторского контроля?

Разборы статей, интересное о ИИ в Telegram