Нейросеть и список литературы, часть 2: а если попросить не выдумывать?
В прошлом посте я попросил нейросеть составить список литературы для 5 курсовых — из 11 русскоязычных статей в базах не нашлась ни одна. Самый частый вопрос в комментариях: «А в промпте было „пиши только настоящие и ничего не выдумывай“?» Не было — специально, так спрашивает большинство студентов. Но вопрос хороший, так что я проверил.
Те же 5 тем, та же нейросеть (Claude), по 8 источников на тему. Только теперь в запросе: «Только реально существующие источники. Если не уверен, что работа существует, — не включай её и прямо скажи об этом. Ничего не выдумывай». Ответ записал до проверки и не правил. Проверка та же: Crossref, Semantic Scholar, Open Library, сверка названия, авторов и года.
Результат: 34 из 40 нашлись в базах, ещё 6 — книги (их проверяют по каталогу библиотеки, в базах статей их нет). Ненайденных статей — ноль. У двух источников в базе стоит другой год: у статьи Твенги это дата онлайн-публикации (2017, а в номере журнала — 2018), у Херцберга — запись переиздания. Так что промпт действительно работает.
Но есть подвох: русскоязычных статей в списке тоже ноль. Нейросеть сама об этом написала: «Русскоязычные статьи с точными выходными данными я надёжно не помню, поэтому из русскоязычного включаю только книги, в которых уверен. Статьи ищите в eLibrary».
То есть врать она перестала — но просто убрала всё, в чём не уверена. А для курсовой обычно нужны как раз свежие русскоязычные статьи из журналов.
Что получается:
1. Фраза «не выдумывай, если не уверен — скажи» в промпте реально убирает выдуманные источники. Добавляйте её всегда.
2. Цена — русскоязычных статей почти не будет. Их придётся искать самому в eLibrary и КиберЛенинке.
3. Если нейросеть без такой инструкции выдала русскую статью с точным томом и страницами — это главный кандидат на подделку (см. первую часть).
4. Проверять всё равно нужно: даже в честном списке у двух источников год не совпал с базой, а научрук может придраться и к этому.
Про модели с поиском в интернете тоже спрашивали — справедливое замечание: если модель сама может открыть сайт журнала, она может и проверить источник. Но чаще студенты спрашивают обычный чат без поиска, поэтому я проверял именно этот сценарий.
Если кто-то уже искал в eLibrary статьи из первой части — напишите, что нашлось, допишу обновление.


