Гальюны Обнаружены⁠⁠

Гальюны Обнаружены

Исследователи из ETH Zurich и MATS представили прорывной метод обнаружения галлюцинаций в больших языковых моделях в реальном времени.

Разработанная система способна выявлять сфабрикованные сущности — имена, даты, цитаты — прямо во время генерации текста, без необходимости дорогостоящей внешней проверки. Метод фокусируется на обнаружении галлюцинаций на уровне токенов, что позволяет отслеживать достоверность информации по мере её появления.

Подход успешно масштабируется до моделей с 70 миллиардами параметров и показывает значительное превосходство над существующими методами. В тестах на длинных текстах классификаторы достигли AUC 0.90 против 0.71 у предыдущих решений для Llama-3.3-70B.

Удивительно, что система, обученная только на сущностях, эффективно обнаруживает ошибки даже в математических задачах, демонстрируя обобщающую способность за пределами первоначальной цели.

Исследователи опубликовали наборы данных для дальнейшего развития этой технологии, которая может стать важным шагом к созданию более надёжных ИИ-систем для критически важных областей.
https://arxiv.org/pdf/2509.03531

#Программирование #Нейросети #Наука #Технологии
@DevsRoot