От абсурдных трактовок до нелепых объяснений — система не стесняется выдавать фантастические факты, как будто это истина.

Пользователи заметили, что если ввести в поиск что-то вроде «значение выражения», даже если это полная чепуха, система не только не скажет, что такого нет, но еще и радостно придумает объяснение. Так появилось, например, «ты не можешь лизнуть барсука дважды». По мнению ИИ, фраза якобы означает, что один раз можно кого-то обмануть, но второй уже не получится. Хотя, очевидно, такого выражения никогда не существовало.

Люди начали экспериментировать — и выяснили, что таких придуманных фраз ИИ обрабатывает огромное количество. Он объясняет, что «арахисовые платформы» — это не мода, а якобы научный эксперимент, а «велосипед ест первым» — выражение про важность углеводов перед тренировкой. Некоторые фразы звучат как полный бред, но искусственный интеллект все равно пытается придать им смысл. Он разбирает псевдоцитаты и несуществующие имена как настоящие, выдавая ложные философские трактовки.

Такая проблема называется «галлюцинации ИИ». Это когда система придумывает факты на основе паттернов, даже если ничего реального за ними нет. Она не знает, что правда, а что фейк — просто повторяет шаблоны, которые видела раньше. Этим грешат почти все крупные языковые модели, и ни одна пока полностью не избавилась от недостатка.

ПОЛЕЗНАЯ ТЕЛЕЖКА

Буковский просто шикарен, видимо преимущественно англоязычный массив сказывается.
Достоевский бесконечно плетется в нейронной рефлексии и мучается нравственными дилеммами, а иногда вроде бы забывает, о чем его спрашивают, и несёт экзистенциальный ужас.

Думскроллер,, оказался настоящим хамьём. Он с легкостью выдаёт ответы, которые я бы никогда не посмел бы произнести вслух, и, признаться, некоторые перлы даже меня шокируют.
Его версия телеграм бота совсем ушла в разнос, там такое ощущение, что вообще «зажил своей жизнью». Базовые ограничения алгоритма настолько сбиты промтом, что иногда проскакивает откровенная жесть.

У Лавкрафта, напротив, всё время, кто-то шепчет во тьме и постоянный неописуемый ужас. Кроме тех редких моментов, когда мой промт слетает к базовым настройкам и он вспоминает об этических фильтрах Open AI.
Заранее предупреждаю, стабильно у них только промт к базовому GPT откатывается. Используется несколько моделей попеременно, основная gpt-3.5-turbo