У ИИ тоже есть акцент? Артефакты генерации LLM простыми словами⁠⁠

На прошлой неделе подал статью на конкурс Сбера по ИИ. Моя работа "Анализ уязвимостей и артефактов генерации современных LLM" прошла первый отбор и ушла на рецензирование. Миллион за главный приз мне вряд ли достанется, но сам факт участия радует: приятно понимать, что даже без учёной степени можно конкурировать на равных.

👉 LLM — это большие языковые модели. Формально они не совсем "искусственный интеллект", но именно их сейчас называют ИИ.

Теперь к самому интересному.

Артефакты генерации - это не баги, а скорее "подпись" модели, следы её внутренней логики.

Если угодно - своеобразный "почерк".

Попробуйте вспомнить: когда мы читаем текст, написанный человеком, мы легко угадываем стиль - кто-то любит канцеляризмы, кто-то метафоры, кто-то обрывает предложения на полуслове. Так вот, у моделей тоже есть свои "привычки".

Например:

+ повтор одних и тех же оборотов, даже если они не бросаются в глаза;

+ постоянное выравнивание стиля (в шутке - шутит, в лекции - "звучит умно");

+ невидимый "эхо-след" самого вопроса - модель отвечает в той же интонации;

+ вставка характерных метафор или "опорных точек";

+ странные скачки внутри ответа, когда тон резко меняется, словно кто-то дернул за шнур.

💡 Чем это полезно людям, далёким от тестирования ИИ?

Эти артефакты помогают лучше фильтровать информацию в интернете. Если вы видите слишком гладкий, "универсальный" текст без ашибок, оппечаток и лишних эмоций, скорее всего, он сгенерирован. Это навык медиаграмотности 21 века - отличать, где пишет человек, а где машина.

А вы лично замечали такие "почерки" у ChatGPT, DeepSeek или других моделей? Поделитесь в комментариях: какой самый странный артефакт вам попадался?

P.S.: Считать, что наличие длинного тире или «ёлочек» — это признак ИИ - ну, такое себе... Ведь длинное тире легко поставить на Маке, просто повторив 2 раза обычное тире. А кавычки-ёлочки - ставятся автозаменой, и не только в Ворде. Да и длинные тире Word ставит сам. Другое дело, когда в тексте встречаются сразу и “такие кавычки” и «такие», при этом в русском тексте без вставок английского - тогда точно ИИ :))

Кстати, поставить эмодзи или смайл в текст на Винде можно нажав Win + . (точка, которая Ю)

Больше интересных статей - в моей телеге (без копипасты и ии-генерации) - @seo_smm_ai
Или в соцсети Сетка от HH - Владимир Меркушев.