Как использовать нейросети в научной деятельности (и не спалиться)
Перепечатка моей статьи из блога в ВК. Ссылка - это не столько для саморекламы, сколько чтобы избежать обвинений в воровстве контента. Материал основан на моем опыте работы. Если ошибся в терминах, не кидайтесь ссаными тряпками. Найдете неточности - пишите в комменты
Заранее извиняюсь за полотно текста. Но тут, кажется, за такое не ругают. Если зайдет, скину продолжение. Я как раз опубликовал научную статью на эту тему. Перепишу человеческим языком и сразу выкину.
Исчерпывающая инструкция. Почти =)
Искусственный интеллект стал частью нашей жизни. Это остается только принять. Говорить детям не пользоваться ИИ – это так же абсурдно, как требовать от них писать рефераты от руки, пользуясь только бумажными энциклопедиями.
Поэтому я, следуя принципу «не можешь предотвратить - возглавь», решил написать инструкцию для школьников, как грамотно пользоваться нейросетями для учебной и научной деятельности. Инструкция основана на моем личном опыте и на опыте коллег, которые давно упрощают рабочий процесс при помощи технологий. (Да, ваши педагоги тоже это делают). Мало того, Минобрнауки дало отмашку внедрять ИИ в учебный процесс. Так что будем разбираться.
(Получилось так много, что я сам в шоке)
Речь идет о текстовых моделях, поскольку с видео и картинками я работаю постольку-поскольку, а писать код мне пока не требовалось.
ГДЕ НАЙТИ НЕЙРОСЕТЬ ДЛЯ РАБОТЫ?
Многие языковые модели недоступны для российских пользователей. Из доступных бесплатных я использую:
GPT-4o Mini (компактная версия Chat GPT-4) встроена в поисковик DuckDuckGo, поэтому доступна в России. На сайте есть еще несколько бесплатных нейронок (раздел Duck.ai на главной странице).
DeepSeek – очень умная китайская нейросеть, которой я предпочитаю пользоваться.
Qwen Chat — еще один китайский чат-бот от компании Alibaba . Чуть поглупее предыдущего, зато умеет генерировать картинки, а еще туда можно кидать целые документы почти любого формата вместо текста (полезно, если нужно пересказать научную статью, но об этом отдельно)
YandexGPT - языковая модель от «Яндекса», встроенная в одноименный браузер. Не самая умная, зато дружит с русским языком. А еще в ней есть встроенная функция проверки текста на орфографические, пунктуационные, стилистические и прочие ошибки. Кстати, «Шедеврум» - генератор картинок от Яндекса.
GigaChat - нейросеть от «Сбера», которая способна вести диалог, генерировать тексты и изображения, а также писать программный код. А еще у Сбера есть весьма неплохой генератор изображений Kandinsky.
Это лишь те, которыми я смог воспользоваться. Детище Маска, GROK, видимо, чересчур умное. Потому что каким-то шестым чувством распознает средства обхода блокировок (о которых говорить нельзя), выдавая на весь экран окошко о недоступности функции в РУ-регионе. Gemini от корпорации SkyNet Google тоже посылает пользователя в пешее эротическое. корпорация монстров Microsoft встроила нейросеть Copilot в Windows 11, но в России естественно ничего не работает. (Но оно и к лучшему).
ЧТО НУЖНО ПОМНИТЬ ПРИ РАБОТЕ С НЕЙРОСЕТЬЮ?
1. Нейросеть – это просто инструмент.
Многие думают, что нейросеть – это волшебная палочка, Золотая рыбка и Мистер Мисикс в одном лице. Вот только на деле получается, что это, скорее, злой лепрекон или в лучшем случае Двое из ларца. Поэтому на запрос «чтобы было красиво» чат-бот ответит в формате «как понял, так и сделал». А что вы хотели? Как говорят дизайнеры, без внятного ТЗ - результат ХЗ.
Из этого следуют сразу три вывода:
Вывод №1. Работая с нейросетью, нужно буквально быть осторожнее в своих желаниях, максимально четко формулируя запрос. Спрашивая о самых крутых фильмах этого года, важно понимать, что понимание крутости у ИИ может отличаться от вашего.
Вывод № 2: Не стоит думать, что нейронка разом решит все ваши проблемы. Примеры людей, заработавших миллионы на проекте, разработанном за пять Chat GPT, - это, скорее, ошибка выжившего. Вероятность сорвать банк без элементарных знаний такая же, как выиграть в лотерею.
Вывод №3. Нужно понимать, что, как и любой инструмент, нейросеть имеет границы применения. Вы не будете забивать гвозди микроскопом и резать металл дрелью (хотя мне как-то приходилось использовать такой способ, но это отдельная история).
2. Нейросеть всегда врет
Как говорят админы, это не баг а фича. Галлюцинации - это свойство нейросетей, происходящее из принципа их работы. Они не думают в привычном смысле слова. Они буквально играют в шарады, составляя последовательность из отдельных слов. При этом выбор определяется вероятностью. (Это очень упрощенно и при условии, что я верно понял объяснение из роликов в интернете). Если хотите науки, вот вам ссылка на исследование Open AI. Если не понимаете английский (или сайт недоступен), в сети полно перепечаток.
Если модели не хватает данных, она просто их «додумывает». Поэтому, если вы зададите заведомо бредовый вопрос, чат-бот все равно попытается дать на него ответ, вместо того чтобы сказать, что вопрос поставлен некорректно. Развитие технологии уменьшает вероятность такого исхода, но она все равно не нулевая.
3. Нейросеть не будет думать за вас
Современные нейросети – это уже не просто игрушка для генерации бредового текста. Новые языковые модели имеют доступ в интернет. Это ставит поиск информации на качественно новый уровень. Начиная от умного поиска Яндекса или Google и заканчивая генеративными моделями от OpenAI.
В новостях часто говорят, что ИИ убьет многие профессии, но то же самое говорили про появление паровых машин. В результате они не оставили людей без работы, а повысили требования к профессиональному уровню. То же самое и с нейросетями. Они быстро анализируют данные, выдавая ответ в удобной форме. На этом всё. Нейросети лишь имитируют работу человеческого мозга. А это означит две вещи:
Во-первых, они не обладают человеческой способностью к саморефлексии. Поэтому они не могут оценить свою работу. Люди тоже совершают ошибки, но они могут их признавать и исправлять.
Во-вторых, у них проблемы с принятием решений. Это сложный механизм людской психики, в основе которого сложное сочетание воли, эмпатии, эмоций и жизненного опыта. Поэтому они не умеют действовать в нестандартных ситуациях.
Отсюда многочисленные новости последних месяцах, когда крупные корпорации, решившие заменить сотрудников нейросетями, понесли огромные убытки из-за неэффективной работы ИИ и решили вернуть на работу людей.
В сети активно обсуждается и другой случай. Нейросеть для написания программного кода удалили базу данных, несмотря на прямой запрет, а потом «запаниковала», и, чтобы скрыть ошибку, подменяла настоящие отчеты фейковыми.
Из этого можно сделать два вывода:
Чтобы работать с нейросетью, нужно быть… умнее ее. Иными словами, для того, чтобы делегировать ИИ часть своих обязанностей, нужно хорошо разбираться в предмете и хорошо представлять ожидаемый результат, чтобы четко формулировать задачи и контролировать качество исполнения.
2. Нейросети не отменяют необходимость учиться. Наоборот, учиться придется больше. В этом смысле появление нейросетей напоминает историю с внедрением станков с ЧПУ на заводах в СССР, когда простым работягам пришлось осваивать программирование, чтобы не остаться не у дел (я даже лично знаю такого человека).
КАКИЕ ЗАДАЧИ СМОЖЕТ ВЫПОЛНИТЬ ЗА ВАС НЕЙРОСЕТЬ?
Исходя из всего вышесказанного, делаем вывод, что ИИ можно поручить всю рутинную работу. Вот список задач, для которых использую нейросети я (с указанием возможных проблем и способов их решения):
1.Краткая справка по той или иной теме
Когда нужно было узнать что-то, раньше все лезли в энциклопедию. Сейчас все лезут в интернет. Но ритм жизни настолько ускорился, что времени читать большие статьи даже в Википедии просто некогда. В этом случае на помощь приходит умный поиск собирает информацию из разных источников и суммирует ее в один лаконичный текст.
Проблемы:
Правильность такого ответа не всегда на высоте. Поисковик не очень хорошо фильтрует источники по достоверности. Или может получиться так, что тема, которую вы ищите, настолько редкая, что по ней почти нет публикаций. Например, когда речь идет о каком-то правиле орфографии, в выборку могут попасть родительские форумы и сайты типа «ответы майл.ру» и их полные клоны из верхних сточек поиска.
Как решать: Во-первых, можно задать аналогичный вопрос сразу в нескольких нейросетях, а потом сопоставить ответы. НО! Для проверки достоверности крайне желательно обладать собственными знаниями. Во-вторых, как ни банально, обратиться к проверенным источникам и самостоятельно изучить материал. Да-да, придется читать скучные книги. А вы как хотели? Думали, знания даются легко?
1.Поиск источников для научной работы
Задача по типу «поди туда не знаю куда» часто встает перед нами, когда мы занимаемся научной деятельностью, не важно, пишем мы школьные проекты, курсовые или диссертации. Особенно если нам предстоит погрузиться в незнакомую тему. В этом случае очень можно просто попросить нейросеть сделать подборку публикаций по теме.
Запрос будет выглядеть как-то так: «Проанализируй научные публикации по методике преподавания русского языка и составь список статей, в которых авторы поднимали тему «Преподавание русского языка в начальной школе»». Логика тут, думаю, понятна.
Важно понимать, что нейросеть лишь указала направление исследования. Писать работу придется самому, а источники проверять «ручками». Но это все равно сильно экономит время. Плюс в списке могут быть примеры, которые вы не знали или знали, но забыли.
Проблемы:
а) Источники могут быть не по теме или информация из статей будет устаревшей.
б) Нередко бывает так, что нейросеть просто выдумывает авторов и статьи. По моим прикидкам примерно от 10% до 30% результатов или не будут соответствовать критериям поиска, или просто будут взяты с потолка.
в) Источники могут быть недостоверными: чат-боту все равно, берет он информацию с сайта Киберленинка или Ответы.майл.ру. А еще поиск в поиске часто продвигают мусорные или мошеннические сайты
Решение: Как я уже говорил, для оценки пригодности результатов нужно разбираться в теме самому. Но есть несколько способов улучшить результат:
а) Параллельный поиск с помощью нескольких чат-ботов. Универсальный прием, который помогает решить большинство проблем. Вы просто делаете один и тот же запрос в разных нейросетях и смотрите, какие результаты совпали. Стопроцентной гарантии нет, но это может помочь, если тема вам совсем не знакома.
б) Задавайте вопрос максимально точно. В запросе обязательно укажите, например, что поиск должен производиться только по базам данных научных работ, что искать нужно только научные публикации. Для верности можете указать конкретные сайты, где нужно искать, например Кбиерленинка или Elibrary. Если хотите увидеть в выдаче свежие публикации, указывайте период, за который вас интересуют результаты.
в) Попросите нейросеть предоставить пруфы доказать, что статьи из подборки подходят под ваши критерии: пусть сделает краткий пересказ текста, приведя подходящую цитату. Чтобы сразу понять, существует ли статья в реальности, попросите ссылку на источник и полное название статьи и имя автора. Если оригинал статьи не видит поиск, то ее, скорее всего, просто выдумали. Или это может быть ошибка перевода (об этом ниже).
2. Найти в сети что-то, соответствующее определенным критериям
Обратная задача: вы знаете, что ищете, но не помните, как оно называется. Допустим вы хотите пересмотреть любимый фильм или найти книгу/научную статью, в которой была необходимая цитата. В этом тоже может помочь нейросеть… Ключевое слово - «может». Потому что как бы вы точно не описывали нужную вам вещь, высока вероятность, что нейросеть выдаст что-то совершенно неподходящее (и попытается убедить вас, что это именно то, что вам нужно). Причину я назвал выше: нейросеть не умеет думать. Как бороться с этим не знаю. Можно использовать приемы, описанные выше или сформулировать запрос иначе.
3. Краткий пересказ статей
Допустим, вы получили статьи по нужной теме, и хотите отфильтровать лишние. Нейросеть тут уже не поможет – только ваш опыт. Но если статей слишком много, чтобы читать каждую полностью, никто не запрещает воспользоваться функцией пересказа. Попросите нейросеть составить тезисный план или сделать краткий пересказ. Это умеют почти все текстовые модели: от Яндекса до Chat GPT. Яндекс-браузер может также пересказать содержимое веб-страницы или видеоролика.
Проблемы: Нейросети, особенно иностранные, часто неверно понимают контекст русских выражений или «додумывают» недостающую информацию.
Как бороться: Просить нейросеть написать не простой, а цитатный план, каждый пункт которого должен быть подкреплен соответствующей выдержкой из текста.
4. Поиск нужной информации в статье
Вы отобрали статьи, но теперь хотите удостовериться, что в них есть нужная информация, или найти точную цитату, чтобы вставить в текст. Для этого можно попросить нейросеть найти все упоминания в тексте по нужной теме. Для большей точности нужно обязательно попросить привести цитату.
Промпт (текстовая команда) может выглядеть, например, так: «Что говорит [автор] в [статье] по [теме]? Приведи точные цитаты из текста, подтверждающие каждый тезис. Ничего не выдумывай, не используй сторонние источники, работай только с указанным текстом».
4. Составление библиографического списка
Тут всё просто. Вы написали работу. В тексте или подстрочных комментариях назвали авторов, на которых ссылаетесь, и их статьи. А теперь самое «приятное»: составление списка использованной литературы. Современные нейросети это умеют, они даже могут оформить список литературы по ГОСТу, отсортировав литературу и источники. Для того, чтобы сделать это, надо загрузить текст в нейросеть и попросить составить по нему список литературы. Не забудьте указать ГОСТ какого года нужно использовать. Чтобы не дразнить антиплагиат, лучше скинуть не сам текст работы, а только список литературы и авторов. О причинах расскажу ниже.
Нюансы: Неросети любят коверкать выходные данные печатных изданий, выдумывать издательство или год выхода. Если эти данные важны, проверяйте обязательно.
Что делать: После составления списка литературы необходимо все тщательно проверить. Будет лучше, если вы попросите оформить отдельно каждую ссылку по ГОСТу, самостоятельно вводя все выходные данные (их можно взять на сайте любого книжного магазина)
5. Составление содержания работы
Аналогично предыдущему пункту. Кидаете текст работы, просите составить содержание с указанием страниц. После обязательно всё проверьте.
6. Составление списка произведений (или чего хотите) с добавлением определенного критерия
Проще рассказать на примере.
Я могу закинуть в DeepSeek свой (составленный ручками) список коротких произведений для сочинения, список тем для сочинений ОГЭ (с сайта ФИПИ) и попросить нейросеть оптимизировать список, включив в него только произведения из программы 7-9 класса и указав темы, которые есть в каждом произведении. Я могу это сделать потому, что в интернете полно сайтов, где есть подобные разборы, и потому, что я знаю, каким должен быть конечный результат. Нейросеть просто избавит меня от необходимости набирать весь текст вручную. Но потом все равно придется проверять список, дополнять его и исправлять ошибки. Потому что итоговый вариант выглядит, как будто его сделал робот.
Я могу попросить нейросеть составить список фильмов и сериалов, в которых есть тема, допустим, временной петли и возврата в прошлое. В сети море подобных обзоров, но информация обычно разрознена. Каждый автор описывает свою часть картины мира, а нейросеть просто собирает паззл. Но нужно понимать, что чат-бот тоже не покажет всей картины мира. Список может быть неполным, в нем могут быть «левые» произведения.
7. Придумать несколько вариантов определенного курса текста
Очень помогает, если у вас затуп. Допустим, вы долго работали, голова уже не может генерировать текст, но еще способна оценить его читаемость. Поэтому вы можете попросить чат бот сгенерировать вступление главы или сформулировать цели и задачи.
Важно помнить:
а) Обязательно просите сгенерировать несколько вариантов, чтобы можно было выбрать подходящий.
б) Обязательно делайте рерайт полученного текста. Обычно он получается слишком наукообразным или просто «нечеловеческим». В крайнем случае, попросите текстовый редактор Яндекса перефразировать текст.
ЧТО СТОИТ ДЕЛАТЬ С ОСТОРОЖНОСТЬЮ?
1. Переводить текст
Скажу сразу: я не очень люблю такой способ перевода. Мне часто скидывали результаты перевода Chat GPT: заказчики или просто друзья (чтобы я оценил правильность). ИМХО, даже Google Translate переводит лучше. Хотя у него тоже плохо с пониманием контекста, он не пытается додумать то, чего не понял. Доверять такому переводу стоит, только если вы знаете язык. Но есть одна хитрость, которой можно воспользоваться, если, например, статьи по интересующей вас теме нет на русском языке. Попробуйте использовать параллельно несколько инструментов (например, DeepSeek и Google Translate). Но на всякий случай стоит держать открытым вкладку с контекстным словарем (https://context.reverso.net)
2. Просить чат-бот сочинять стихи…
…или упражнения по русскому языку для ваших учеников. Как-то раз я не смог найти готовые задания по одной теме и попросил DeepSeek помочь мне с этим. Получилось, мягко говоря, не очень. А еще он пытался сочинить стих-запоминалку для какого-то правила. Тот же результат получится еще ужаснее. Объяснить это можно тем, что языковая модель часто «думает» на английском, а потом переводит свои рассуждения на русский. То, что рифмуется на английском, на русском режет слух, как скрежет гвоздя по стеклу.
Однако вы можете попросить чат бот составить план урока и, несмотря на то, что он получится кривым, его структуру все равно можно использовать как основу для своего.
Обязательно укажите:
а) Что план должен быть составлен по ФГОС (тогда чат-бот включит в него все необходимые элементы)
б) Что за основу нужно брать существующие планы с сайтов наподобие мультиурока
в) После этого вычистите все ошибки (их будет много!)
ЧЕГО ДЕЛАТЬ НЕ СТОИТ НИ В КОЕМ СЛУЧАЕ?
1. Просить нейросеть написать текст полностью
Помимо очевидного (текст будет слишком «механическим») есть еще одна причина, о которой я расскажу ниже.
2. Делиться личными данными
Переписку с чат-ботом можно легко найти с помощью поисковика. Недавно в новостях писали, что Chat GPT сливает переписки с пользователями сайту Google. Таким образом, если сделать поисковой запрос, указав в качестве сайта для поиска chatgpt.com, то можно без проблем изучить чужой диалог с нейросетью. Я проверял: это действительно так. А как вы хотели? Думаете, такой мощный и дорогостоящий инструмент делают бесплатным по доброте душевной?
По этой причине нейросети КАТЕГОРИЧЕСКИ нельзя сообщать конфиденциальную информацию: имена, адреса, телефоны, номера документов.
По этой же причине не стоит просить чат-бот написать текст вашей курсовой. Ведь тот же Advego Plagiatus для проверки текста использует поисковые системы. Сложно сказать, сработает ли антиплагиат, если попросить нейросеть составить список литературы,если скинуть весь текст работы, но я бы не рисковал.
ОБЩИЕ ВЫВОДЫ
1. Нейросеть - это как станок с ЧПУ: с его помощью можно автоматизировать производство, но его нельзя поставить директором завода. Нельзя просто взять и скопировать то, что написала нейросеть. Результат не всегда будет достоверным. Проверка необходима из-за риска «глюков».
2. Ни в коем случае не стоит сообщать нейросети личные данные и конфиденциальную информацию.
3. Нейросеть позволяет экономить время на поиске информации, но «съедает» его при проверке. Хотя в целом выигрыш во времени все равно будет.
4. Главный плюс использования нейросетей в том, что они существенно упрощают работу с большим объемами информации, которые сложно удержать в памяти единомоментно.
