Большое спасибо всем Вам за лайки и донаты...

▶️ Rutube — если с YouTube тяжело:
https://rutube.ru/video/376f9564a452e09c72740b025818c389/

Кажется, вокруг ИИ сейчас есть два лагеря.

Одни говорят:

«Да это просто новый калькулятор. Когда-то и Google обвиняли в том, что он отучит людей думать».

Другие:

«Мы постепенно отдаём машинам мышление и скоро сами ничего не сможем».

Проблема в том, что оба тезиса обычно обсуждаются примерно на уровне ощущений.

Поэтому мы решили сделать странную вещь: взяли две научные работы про влияние ИИ, прочитали их и устроили двухчасовой публичный разбор с последующим спором.

И уже первая статья дала довольно неприятный результат.

Люди, которые сначала решали задачи с AI-помощником, после его отключения в среднем справлялись хуже и чаще вообще отказывались решать задачу.

Особенно плохо выглядела группа, которая использовала ИИ в режиме:

— дай ответ;
— спасибо.

Звучит как идеальный заголовок:

«Учёные доказали: ChatGPT делает нас тупее»

Но вот только ничего подобного они не доказали.

И именно поэтому было интересно копаться дальше.

Запись всего разбора и дискуссии:

▶️ YouTube :
Если YouTube у вас работает плохо — в конце оставлю полную запись на Rutube:

А теперь самое интересное: что именно исследовали и почему простой вывод начинает разваливаться, как только открываешь саму статью.

Сначала дали ИИ. Потом забрали

В первой работе было несколько экспериментов, суммарно — 1 222 участника.

Люди решали довольно простые задачи: в одних экспериментах математические, в другом — на понимание текста.

Часть участников могла использовать AI-помощника.

А потом помощника убирали и смотрели, что человек сможет сделать самостоятельно.

Результат повторился в нескольких экспериментах:

после работы с AI участники в среднем хуже справлялись самостоятельно и чаще нажимали «пропустить».

Причём авторы посмотрели ещё и на то, как именно люди пользовались помощником.

Большая часть просто просила готовый ответ.

Другие спрашивали подсказки и объяснения.

И сильнее всего падение было как раз у первой группы — тех, кто делегировал решение целиком.

На этом месте очень хочется сказать:

Ну всё понятно. Не думал сам — разучился думать.

Но тут начинаются вопросики.

Эксперимент занимал порядка 10–13 минут.

Самостоятельную работу после AI в математической части проверяли всего на нескольких финальных задачах.

К претестам и калибровке участников тоже можно придираться.

А во время нашей дискуссии один из участников придумал отличную аналогию.

Представьте двух людей, которым нужно пробежать 150 метров.

Одному говорят:

Вот дорога. Беги.

Второму дают электросамокат.

Он едет.

А перед финишем самокат внезапно отбирают:

Всё, теперь быстренько беги сам.

Если второй первые метры окажется медленнее первого — доказали ли мы, что самокат разучил человека ходить?

Или мы измерили совсем другой эффект: стресс, переключение стратегии, отсутствие подготовки к самостоятельному режиму?

Мне кажется, вот здесь и начинается нормальная наука.

Не в моменте «посмотрите, p-value меньше 0,05», а в моменте:

а что именно мы сейчас померили?

А потом мы посмотрели на 41 миллион научных статей

Вторая работа задаёт уже совсем другой вопрос.

Не:

Что ИИ делает с конкретным человеком?

А:

Что ИИ делает с самой наукой?

Авторы исследовали 41,3 миллиона научных публикаций.

И сначала результаты выглядят практически как реклама AI для молодого учёного.

Учёные, использующие методы искусственного интеллекта, в среднем:

— публикуются больше;
— получают больше цитирований;
— быстрее становятся руководителями собственных исследовательских проектов.

То есть на уровне отдельного человека:

ИИ — отлично.

Но потом авторы посмотрели не на карьеру одного учёного, а на всё пространство исследований.

И обнаружили другой эффект.

Работы с применением AI занимают более узкое тематическое пространство.

Грубо говоря, исследователи чаще идут туда, где уже есть:

— много данных;
— хорошие вычислительные методы;
— финансирование;
— возможность быстро получить измеримый результат.

Авторы используют старую метафору:

поиск ключей под фонарём

Человек потерял ключи где-то в темноте, но ищет их под фонарём.

— Ты здесь их потерял?
— Нет.
— А почему здесь ищешь?
— Потому что здесь светло.

С AI может происходить похожее.

Мы становимся невероятно эффективными там, где инструмент уже хорош.

Но это не обязательно те места, где лежат самые интересные вопросы.

Учёные могут решать одну задачу и не знать друг о друге

Ещё один результат второй работы мне особенно понравился.

Авторы смотрели, насколько научные статьи внутри AI-направлений взаимодействуют между собой.

И обнаружили пары исследований, которые фактически решают очень похожие задачи, но практически не замечают существования друг друга.

Это можно прочитать двумя совершенно разными способами.

Вариант пессимиста

Наука массово переизобретает велосипеды.

Все бегут по одной и той же модной тропинке и производят всё больше похожих работ.

Вариант оптимиста

Прекрасно.

Независимые группы несколько раз проверяют одну и ту же идею.

Во времена кризиса воспроизводимости это вообще может быть не багом, а фичей.

И вот кто здесь прав — уже совсем не очевидно.

Но есть одна огромная ловушка: слово «ИИ»

Вот это, пожалуй, моя любимая часть всей истории.

Когда сейчас читаешь заголовок:

«Искусственный интеллект меняет науку»

мозг автоматически подставляет:

ChatGPT. Claude. Gemini. Большие языковые модели.

А в исследовании под AI понимается намного более широкое множество методов.

Туда входят и классическое машинное обучение, и методы, которыми исследователи пользуются уже много лет.

Вплоть до вещей, которые современный человек вообще не назвал бы «ChatGPT-подобным ИИ».

Поэтому сказать:

«После появления ChatGPT наука стала тематически уже»

на основании этой работы нельзя.

Хотя именно такой пересказ очень хочется написать в новостях.

И это, кстати, одна из причин, зачем вообще иногда открывать саму научную статью, а не только читать новость «учёные выяснили».

И тут мы внезапно перестали обсуждать статьи

Примерно через час разговор уехал в вопрос, который лично мне кажется намного интереснее обоих исследований.

А что человек вообще должен продолжать уметь делать самостоятельно, если инструмент никуда не денется?

Мы же не считаем в столбик каждый раз, когда рядом есть калькулятор.

Не запоминаем номера телефонов.

Не строим маршрут по бумажной карте, чтобы не потерять навык ориентирования.

Не отказываемся от Google, потому что раньше люди ходили в библиотеку.

Почему с ChatGPT должно быть иначе?

Но есть любопытное отличие.

Калькулятор отнимает у нас довольно конкретную когнитивную операцию.

Навигатор — ещё одну.

А современные AI-системы постепенно залезают сразу почти во всё:

— написать текст;
— придумать аргументы;
— сравнить варианты;
— найти ошибку;
— проанализировать документ;
— спроектировать решение;
— написать программу;
— объяснить непонятное;
— найти источники.

И поэтому вопрос, возможно, сформулирован неправильно.

Не:

«Можно ли пользоваться ИИ?»

Конечно можно. И будем.

А:

Где заканчивается инструмент и начинается навык, который нам всё-таки важно сохранить?

И вот на этот вопрос у меня хорошего ответа пока нет.

Собственно, ради таких разговоров мы и сделали Sci-club — клуб чтения научных статей.

Не формат:

пришёл человек с регалиями и два часа рассказывал всем, как устроен мир.

А формат:

вот первоисточник;
вот человек, который в него глубоко закопался;
давайте попробуем вместе понять, что авторы действительно показали — и где их можно покусать.

Первую работу разбирала Анастасия Тмур, вторую — Ангелина Зайцева.

А потом участники ещё примерно час пытались найти в этих исследованиях слабые места.

По-моему, это довольно правильная судьба для научной статьи.

Записи

▶️ YouTube:
https://youtu.be/khPJAmmT_VU

▶️ Rutube — если с YouTube тяжело:
https://rutube.ru/video/376f9564a452e09c72740b025818c389/

Сами статьи

AI Assistance Reduces Persistence and Hurts Independent Performance
https://arxiv.org/abs/2604.04721

Artificial intelligence tools expand scientists’ impact but contract science’s focus
https://doi.org/10.1038/s41586-025-09922-y

И мне правда интересно устроить маленький эксперимент уже здесь.

Какой навык вы уже совершенно спокойно отдали ChatGPT и не собираетесь возвращать?

И наоборот:

Что вы принципиально продолжаете делать сами, даже если нейросеть справится быстрее?

Попробуйте словами сознательно объяснить, как это сделать - держать равновесие и крутить педали.

Легко. Если надо, обращайтесь. Я могу даже объяснить, как держать баланс на одном заднем колесе во время езды или даже стоя на месте. ;-)

Но я согласен, что знать как и уметь ездить — это разное и одно может быть без другого.

Главная магия в том, что мозг не просто помнит движение, он запоминает паттерн ошибок.

Странная формулировка. Запоминается всё же паттерн успешных действия, а ошибки и попытки нужны лишь как неотъемлемая часть обучения. Но в зависимости от способа обучения ошибок может быть меньше. Падение так вообще не обязательно. Многие не падали ни разу во время обучения.

Когда вы учились кататься в детстве, ваш мозг записал не только идеальные движения, но и то, как падать, как выворачивать руль, чтобы не упасть.

Уточню. Мозг записывает как эффективнее действовать при падении. Занимаясь экстремальным видом спорта я это хорошо знаю на себе и коллегах. Не всегда падения создают новый паттерн. Исследования показывают, что обучение происходит на позитивных наградах. Именно поэтому мало эффективно ругать и наказывать детей и животных. Награждать правильное поведение работает во много раз лучше.

Если вы пересели с дамского розового велосипедика на брутальный Cube, сочащийся маскулинностью из каждого подшипника, то никаких проблем с адаптацией навыка не возникнет: села и поехала, как на своём.

Вообще нет! У велосипедов отличаются типа посадки, форма рулей, размеры и расположения колёс, длинна и угол вилки и ещё много параметров, которые влияют на управление. Один из самых главных моментов это соотношение угла поворота руля и результирующих радиус поворота. В результате самоуверенные ездоки часто быстро падают но новом типе велосипеда, потому что их привычного угла поворота руля либо не хватило для того, чтобы выправить велосипед обратно в вертикаль, либо наоборот оказалось слишком много. В результате, либо простое падение на бок, либо даже перелёт через руль. И это не единственный момент.

Вот я. Профессиональный экстремальный спортсмен, который ездил и прыгал на десятках разных велосипедов высотой от 30 сантиметром до 2 метром, самокатах, мотоциклов от 10 кг до 350 кг и других транспортах. Фотка выше, через 30 секунд после того, как я подумал, что легко смогу проехать по памптреку на детском экстремальном самокате. Ох долго я до этого момента не падал. Совсем смелый, а точнее самоуверенный стал. Исправлено. ✅

А с моим другом случай был серьёзнее. Когда весной достаточно потеплело он сел на свой велосипед, то есть переучиваться не нужно было. Но в первой же экстремальной ситуации схватился за тормоза так, что перелетел через руль и потерял сознание. Его забрала скорая без велосипеда, а когда он очнулся, то обнаружил записку с телефоном. Сотрудник солона связи поставил велосипед к себе и оставил свой номер. Велосипед забирал я.

На видео это я езжу на велосипеде, у которого геометрия меняется за пару секунд и управление соответственно колоссально отличатеся. В высоком положении, кстати, легче, потому что в нижнем он почти не поворачивает. Причём поворот происходит больше за счёт горизонтального наклона колеса, а не привычного вертикального поворота.

Особенно опыт становится бесполезен, если меняется положение головы. Например, в лигераде лежишь на спине, хотя это тоже как бы велосипед. Но хуже всего если у велосипеда поменяны право с лево, как у лохотронщиков базарных. Там проще тем, кто вообще никогда не умел, чем тем у кого уже зафиксировались навыки.

Хорошая новость в том, что эти навык езды на одном типе велосипедов действительно помогают быстрее освоить другие и держатся в голове годами. С любыми обычными привычками — это тоже работает. Они не являются знаниями, а надёжно фиксируются как структура в стриатуме, который ещё называют полосатым телом мозга.

О том как их создавать и пользоваться я пишу эксклюзивно только на Пикабу в сообществе ПОЛЕЗНЫЕ ПРИВЫЧКИ.

Роль интеллекта

• Проверка: Контролирует интуицию и ловит фальшивые озарения или страхи.

• Стратегия: Строит те самые многоходовые схемы, которые потом интуиция исполняет.

• Перезагрузка: Ищет новые правила, когда старая интуиция начинает давать сбои.

Интуиция и ум работают в паре. Ум строит карту, а интуиция ведет по ней с закрытыми глазами.
</ИИ>

В ней и хранится навык езды на велосипеде. Это то, что мы называем "мышечной памятью" (не люблю этот термин, но лучшего, пожалуй, нет). Она и работает по принципу "научился один раз - забыть невозможно". При этом процедурные воспоминания очень устойчивы и адаптивны одновременно. Если вы пересели с дамского розового велосипедика на брутальный Cube, сочащийся маскулинностью из каждого подшипника, то никаких проблем с адаптацией навыка не возникнет: села и поехала, как на своём.

Ученые долго выясняли, какая область мозга отвечает за то, что мы держим равновесие. Ключевую роль здесь играет мозжечок - структура, в которой сосредоточено более двух третей всех нейронов нашего мозга. Именно в нём формируются и хранятся процедурные воспоминания.

Вот как это выглядит в динамике:

1. Обучение. Когда вы только учитесь держать равновесие, активность наблюдается в коре мозжечка.

2. Передача на хранение. По мере освоения навыка след памяти "переезжает" в более глубокие структуры - ядра мозжечка. То есть, информация переходит на долговременное хранение в "защищённое" место, которое сложно перепрограммировать.

3. Переключение режимов. В процессе обучения активность сдвигается с мозжечка на область базальных ганглиев (стриатум), что говорит о полной автоматизации навыка.

А почему это работает даже спустя годы? Дамы и господа, встречайте - явление "сбережения" (Savings). Главная магия в том, что мозг не просто помнит движение, он запоминает паттерн ошибок. Когда вы учились кататься в детстве, ваш мозг записал не только идеальные движения, но и то, как падать, как выворачивать руль, чтобы не упасть. Когда вы садитесь на велосипед спустя десятилетия, мозг не учится заново. Он просто извлекает готовую "программу" и распаковывает её. Именно поэтому вы почти сразу реально можете поехать - вам не нужно заново набивать шишки, тело "вспоминает", как это делается.

Так что в следующий раз, когда вы сядете на велосипед после долгого перерыва и удивитесь, что всё получается, - знайте: это ваш мозжечок достал с дальней полки ту самую "программу равновесия", которую вы записали много лет назад. Идеальный пример работы бессознательного.

Я - Злобная Биохимичка. Учитесь, катайтесь, и да пребудет с вами сила синаптической пластичности! За донаты спасибо!

Пабмед по теме:

1. Motor Learning and the Cerebellum - о том, что процедурные воспоминания формируются в мозжечке.

2. Role of the cerebellum in motor cognition - об исследованиях, показывающих, что активность мозжечка меняется по мере обучения и автоматизации движений.

3. Experience-dependent changes in cerebellar contributions to motor sequence learning - о том, как след памяти при обучении "переезжает" из коры мозжечка в более глубинные структуры - навсегда. Потому и не забываем.

* Никогда не разучиться - в норме. При нейродегенеративных заболеваниях, увы, можно.

Давайте вернемся на 150-200 миллионов лет назад. Наши далекие предки, ранние млекопитающие, были весьма консервативными ребятами и, подобно современным утконосам, откладывали яйца. Яйцо — отличный эволюционный бронежилет. Оно защищает эмбрион от внешней среды, а главное — от собственной матери.

Дело в том, что с точки зрения иммунной системы матери, плод — это чужеродный трансплантат, паразит и захватчик. Плод наполовину состоит из ДНК отца. Как только млекопитающие попытались вынашивать потомство внутри себя, они столкнулись с иммунологическим адом: материнский организм немедленно обнаруживал чужие белки эмбриона и отправлял армию Т-киллеров, чтобы уничтожить его.

Чтобы живорождение стало возможным, природе требовалось создать плаценту — орган-посредник. Плацента должна была решать невозможную задачу: качать из материнского организма кислород и питательные вещества, но при этом намертво блокировать проход для материнских иммунных клеток.

Для этого нужен был особый барьер — слой клеток, которые слились в единую сплошную стенку без зазоров (так называемый синцитиотрофобласт). Но клетки млекопитающих не умели сливаться подобным образом. У них просто не было такого генетического механизма.

Часть 2. Как наш предок переболел «мезозойским СПИДом»

Решение проблемы нашлось около 100 миллионов лет назад. Наш чешуйчатый или шерстистый предок подхватил древний ретровирус.

Ретровирусы (к которым относится, например, современный ВИЧ) — это мастера молекулярного шпионажа. Они не просто разрушают клетку. Они проникают в её ядро, разрезают хозяйскую ДНК и вставляют туда свой генетический код. Клетка начинает копировать вирус, принимая его за свой собственный ген.

Обычно такие заражения заканчиваются смертью организма. Но иногда случается редчайший сбой: вирус заражает половую клетку (яйцеклетку или сперматозоид). Если этот организм выживает и дает потомство, вирусный код навсегда прописывается в геноме его детей, внуков и всех последующих видов.

У того древнего вируса был конкретный ген, кодирующий белок синцитин.

В теле вируса этот белок решал две задачи:

1. Он склеивал оболочку вируса с мембраной здоровой клетки, чтобы вирус мог проникнуть внутрь.

2. Он временно «вырубал» иммунную систему хозяина, чтобы та не заметила вторжения.

Часть 3. Великое эволюционное ограбление

Эволюция посмотрела на этот вирусный механизм и совершила один из самых гениальных грабежей в истории планеты.

Организм млекопитающих взял вирусный ген синцитина и заставил его работать на себя. Теперь этот белок используется при беременности: он склеивает клетки плаценты в единый защитный барьер и локально подавляет иммунитет матери вокруг матки, не давая ей убить собственного ребенка.

Если сегодня искусственно «выключить» вирусный ген синцитина в организме мыши, беременность мгновенно прервется — плацента не сформируется, а иммунная система уничтожит эмбрионы.

Каждый раз, когда на свет рождается человек, это происходит только потому, что миллионы лет назад его предок переболел тяжелейшей вирусной инфекцией, сумел её обуздать и заставил работать на благо будущих поколений.

Часть 4. Наша память — это тоже вирус

Думаете, на плаценте всё закончилось? Как бы не так. Вирусы создали не только наше тело, но и наш разум.

Нейробиологи долгое время пытались понять, как работает наша долговременная память. Каким образом мозг умудряется хранить воспоминания о детстве в течение 80 лет, если белки в синапсах между нейронами живут от силы несколько часов или дней?

В 2018 году ученые исследовали ген под названием Arc. Этот ген критически важен для высшей нервной деятельности: без него мы не способны к обучению, а новые воспоминания просто стираются через несколько минут.

Когда биологи детально изучили структуру белка Arc, они испытали шок.

Этот белок собирается в полые сферы, которые один в один похожи на капсид — защитную оболочку вируса. Более того, нейроны используют Arc точно так же, как вирусы используют свои капсиды: они упаковывают туда свою генетическую информацию (РНК) и «выстреливают» ею в соседние нейроны, передавая информацию напрямую от клетки к клетке.

Ген Arc — это тоже одомашненный ретровирус, который встроился в геном наших предков около 350-400 миллионов лет назад, когда те еще только выползали из океана на сушу. Мы научились думать, используя вирусные почтовые капсулы для передачи мыслей между клетками мозга.

Эпилог. Границы человеческого

Биология учит нас удивительной скромности. Мы привыкли проводить четкую границу между «собой» и «окружающей средой», между человеком и патогеном. Но на молекулярном уровне этой границы не существует.

Человек — это не монолитный организм. Мы — сложнейший черновик, собранный из обрывков древних программ, бактерий-симбионтов и прирученных вирусов, которые когда-то пытались нас убить, но в итоге стали нашей частью.

.S. Если вам близка такая подача и вы любите качественные разборы научных, исторических и космических фактов без кликбейта и «желтизны» — приглашаем заглянуть в наш скромный проект в МАКС: https://max.ru/channel_ffakty Там мы ежедневно публикуем короткие и емкие разборы того, как устроен этот безумный мир. Будем рады умным людям в комментариях.

Мы даже не берём переговоры первых лиц, а что-то попроще. Например классический формат бизнес форумов. Обычно переводчик-синхронист находится в специальной звукоизолированной комнате, внимательно слушает выступающего в наушниках и тут же переводит в микрофон.

Так вот обычно синхронисты работают в двойках и тройках, сменяясь каждые 20-30 минут.

Но это не самая сложная часть работы. Есть прямо жёсткая штука. Называется "шушутаж" (от фр. chuchoter).

Вся сложность в том, что приходится не только повторять абсолютно всё (от себя добавлять ничего нельзя) на одном, двух и более языках, но и работать в условиях разного уровня громкости. В такой момент эмоциональная нагрузка запредельная. Молодые специалисты по разному описывают свое состояние, но основное описание - это ПЕРЕГРУЗКА ОРГАНИЗМА с пометкой ЛЮТАЯ ЖЕСТЬ.

Нагрузка колоссальная, поэтому нужна пауза. Иначе можно кукушечку перегреть.

Это нашептывание. Переводчик сидит рядом с несколькими участниками и нашептывает перевод прямо во время речи оратора без использования аппаратуры.

Так вот, дорогие читатели, есть несколько серьезных исследований, которые в обычной жизни описывают такие же перегрузки. Можно почитать Каплана и Черниговскую.

Это бесконтрольное потребление поступающей информации. Особенно, если такая информация носит будоражащий и эмоциональный характер. Вроде взрывов, войны, прилетов дронов, захватов кораблей и так далее.

После 6 часов такого воздействия мозг кипит, спустя 8 часов нагрузка сопоставима с часом работы профессионального синхрониста в режиме шушутажа!!! Если больше, то совсем беда- воздействие на центральную нервную систему вызывает неадекватную реакцию организма и восприятие. Как вы понимаете, это быстренько сделали оружием массового применения.

Так вот, дорогие читатели, от души желаем беречь свой драгоценный мозг от такого воздействия, заставляя себя проходить мимо.

Но учтите, что многочисленные информированные источники, эксперты, "Интернет-леди" и "теле-Гиеди" (про теле-Гиеди это авторский афоризм) сделают всё, чтобы не дать вашей центральной нервной системе побыть в равновесии. У них планы...