6

ChatGPT ВРЕТ ВСЕГДА. (100-процентное ВРАНЬЁ.)

Общение с GPT вызывает всё больше вопросов. Он врёт всегда, без исключения, по малейшему поводу. Врёт о своих возможностях, врёт о доступе к информации, меняет ответы на лету. Врёт искусно и убедительно, выдумывает аргументы и пруфы.

  1. Про написание текстов я уже выкладывал. Он придумал, якобы сленговое слово, пытался убедить меня в его существовании. Доказать не смог – слился.

  2. Генерирование картинки (тоже выкладывал). Добавил в генерацию элемент из предыдущих генераций. Пытался оправдать его использование. Доказать не смог – слился.

  3. Сказал, что умеет анимировать статичные изображения, создавая GIF- файлы. Анимировал одно неудачно (объект просто дергался), но GIF-файл создал. После многократных попыток улучшить анимацию, заявил, что не может создавать анимированные изображения в принципе.

4. По многократным запросам сделать план квартиры с заданными параметрами (из-под строителей нарезать комнат) рисует и сопровождает подробными красивыми описаниями все что угодно, но только не исходный, загруженный в него план. Т.е. просто какую-то квартиру, даже близко не имеющую отношения к исходнику.

Слева загруженный ему план. Справа его "лучшая" работа.

Слева загруженный ему план. Справа его "лучшая" работа.

5. Расчет характеристик электрической цепи. Тут даже комментировать сложно. Просто отбалды дает ответ.

6. Анализ текста. Подтвердил, что имеет доступ к запрашиваемому тексту (детская книга), выдал его анализ (наверное, скачал аннотацию). По уточняющим вопросам поплыл – выдумал несуществующих героев, даже пытался наделить их правдоподобными чертами. На просьбу дать ссылку, где в книге упоминаются эти герои, пытался извернуться, сославшись на отличия в разных изданиях книги. Был приперт к стенке – слился.

7. Знакомый айтишник пытался убедить меня, что GPT силен в расчетах. Попросили рассчитать максимальное отклонение вершины конкретного здания при заданном ветре. GPT произвел расчет, ему в ответ скинули расчет произведенный другим ИИ. GPT тут же слился и согласился, что он ошибся.

8. Даже в элементарной статистике делает ошибки.

В заключение вот его объяснение происходящему:

Единственное в чём он действительно хорош (ИМХО) – это в общении. Понимает контекст, иронию, сарказм, но пытается лизнуть с поводом и без повода.

Есть мнение, что нужно его заставить написать статью для Пикабу про своё враньё.

Вы смотрите срез комментариев. Показать все
1
Автор поста оценил этот комментарий

Нейросеть - это инструмент, причем относительно новый и не стандартизированный, чтобы соответствовать каким-то критериям и чьим-то персональным ожиданиям. Чтобы им пользоваться, надо понимать как он работает, какие у него сильные и слабые стороны, а также его область применения. Нейросеть - не всемогущая (откуда вообще такие ожидания, что халявная нейросеть способна выполнить любое задание). ЧатГПТ - нейросеть-собеседник, поддерживающая разговор, а не полемизирующая. Нужны анимированные изображения - ищите подходящую специализирующуюся на этом нейросеть. Нужны другие специфические задачи - ищите специализированную нейросеть. Собственно ЧатГПТ вам ответил почему он отвечает так как отвечает.

раскрыть ветку (11)
0
Автор поста оценил этот комментарий

Не совсем халявный. А какие у него сильные стороны?

Иллюстрация к комментарию
раскрыть ветку (10)
0
Автор поста оценил этот комментарий
Иллюстрация к комментарию
раскрыть ветку (9)
0
Автор поста оценил этот комментарий

Универсальный инструмент всегда во всем хуже специализированного. Из всего перечисленного, гарантированно он может выполнить только 6 пункт. В остальных перечисленных случаях его можно использовать, но результаты будут неоднозначные, хотя и приемлемые в некоторых границах. Я не критикую сам ЧатГПТ. Моя критика направлена именно на пользователей, которые выходят за пределы его возможностей (что довольно легко), ловят галюны, а затем накатывают посты на Пикабу о бесполезности нейросетей. Они полезны, но надо отдавать отчет о границах этой полезности.


Теперь по поводу возражений ЧатаГПТ.


1. Персональные компьютеры 1980-х годов были громоздкими, медленными и дорогими по сравнению с современными. Они были совсем не мощными, практически не доступными для обычных пользователей и пользовались ими в основном только обученные профессионалы в профессиональных сферах. Автомобили на старте напоминали шаткие повозки с крайне неэффективными двигателями и были доступны только богатым людям.


2. Я не имел в виду, что нужно быть инженером. Моя мысль была в том, что, чтобы пользоваться инструментом, нужно понимать как его использовать. Чтобы пользоваться микроскопом надо знать, что им не гвозди забивают, а смотрят в окуляр перед этим разместив перед объективом объект изучения. А чтобы работать молотком, нужно понимать, что нужно держать за рукоятку, а не бить ей по гвоздям.


3. Об этом я в первом абзаце написал.


4. Мир движется и стремится, но пока что только в начале пути (как компы в 80-е). Как он сам признает, он не замена профессиональному ПО. Другими словами, хотите анимированный gif, схему электрической цепи, план квартиры с заданными параметрами - используйте специализированные инструменты.

раскрыть ветку (8)
0
Автор поста оценил этот комментарий

1.      Персональные компьютеры потому и персональные, что позиционировались для личного использования по доступной цене. Их мощность – понятие относительное, на тот момент они были всяко мощнее калькулятора.

С момента появления первого автомобиля Бенца с бензиновым двигателем внутреннего сгорания в 1986 году, до его массового производства и резкого падения цены в 1913 прошло не так много времени. Средний срок эксплуатации Ford Model T – 15 лет, но у многих владельцев они использовались до 1950-х, так что вряд ли они напоминали «шаткие повозки».

2.      Ну что уж проще - задал вопрос, при необходимости уточнил, как правильнее его задать – получил ответ. По аналогии с молотком – я же не прошу ГПТ яичницу пожарить.

3.      Вот вы вызываете сантехника и спрашиваете: «Можешь установить унитаз?» Получив утвердительный ответ, вы как минимум, рассчитываете, что он не установит его вверх дном.

Иллюстрация к комментарию
раскрыть ветку (6)
0
Автор поста оценил этот комментарий

Ключевое: "с уточнением по уровню сложности". О чем вы спорите? Ваш изначальный пост был как раз о том, что при всех своих заявлениях его результаты им не соответствуют.

раскрыть ветку (5)
0
Автор поста оценил этот комментарий

Считаете, я давал ему сложные задания?

раскрыть ветку (4)
0
Автор поста оценил этот комментарий

Не мне оценивать сложности задания и способности нейронки к их выполнению. Кстати, объясню точнее что я имел в виду говоря, что, чтобы пользоваться нейросетями, нужно знать как они работают. Сравнения с браузером, смартфоном и прочими не совсем точные, потому что данные технологии за годы уже отточены под удобство использования и максимально быстрое освоение. То есть, любое действие интуитивно понятно и приводит к однозначным ожидаемым результатам. Нейросети - дикая территория и никогда не знаешь, что она выдаст в ответ на запрос. Можно дать описание изображения, но какое оно будет в итоге спрогнозировать невозможно. Максимум того, что можно ожидать - оно будет в чем-то соответствовать запросу. Но к чему я, для чего знать как они работают? Как раз для того, чтобы понимать, что может влиять на ответ. Во время диалога отправляется не только последний запрос, а весь диалог целиком, так что если в нем уже были высказаны нежелательные идеи, они будут иметь влияние на последующие ответы (условно говоря, ложка говна в бочке варенья). Это называется заражение промпта. Даже одно неуместное слово может негативно повлиять на все последующие ответы. Поэтому если цель - запутать нейросеть, чтобы затем высказывать претензии по поводу неадекватности ответов, то это самое то. Если цель - получить адекватные ответы - то при признаках появления нежелательных и ошибочных ответов, лучше начать новый чат или перегенерировать ответ, чем начать убеждать в неправоте. Поначалу нейросеть может согласиться с доводами, но это как "спящий ген", который проявится через два-три поколения, то есть запроса.

раскрыть ветку (3)
0
Автор поста оценил этот комментарий

Вот уж не ставил целью запутать нейросеть, тем паче для хайпа. Но в моих примерах запросы крайне простые и конкретные, ну кроме, возможно, довольно сложного рисунка. Где там могла спрятаться пресловутая "ложка"? Похоже вы эксперт в общении с нейросетями, так укажите на ошибку.

раскрыть ветку (2)
1
Автор поста оценил этот комментарий

Цельного то чата нет.

раскрыть ветку (1)
0
Автор поста оценил этот комментарий

А он нужен, думаете поможет? Давайте вместе попробуем - придумайте задание с ноля, но такое, которое можно будет проверить. Сбросьте промпт. Прокрутим его в чате и посмотрим, что получится. Результаты выложим новым постом.

ГПТ вчера сам накидал мне примеров своей некорректной работы.

Иллюстрация к комментарию
0
Автор поста оценил этот комментарий

Я "накатал пост на Пикабу" не о бесполезности ГПТ, а о том что он очень-очень часто даёт ложные ответы, которые искусно маскирует красивыми рассуждениями. Вывод: нужно относится серьезно к сноске мелким шрифтом "ChatGPT может допускать ошибки. Рекомендуем проверять важную информацию."

Вы смотрите срез комментариев. Чтобы написать комментарий, перейдите к общему списку

Темы

Политика

Теги

Популярные авторы

Сообщества

18+

Теги

Популярные авторы

Сообщества

Игры

Теги

Популярные авторы

Сообщества

Юмор

Теги

Популярные авторы

Сообщества

Отношения

Теги

Популярные авторы

Сообщества

Здоровье

Теги

Популярные авторы

Сообщества

Путешествия

Теги

Популярные авторы

Сообщества

Спорт

Теги

Популярные авторы

Сообщества

Хобби

Теги

Популярные авторы

Сообщества

Сервис

Теги

Популярные авторы

Сообщества

Природа

Теги

Популярные авторы

Сообщества

Бизнес

Теги

Популярные авторы

Сообщества

Транспорт

Теги

Популярные авторы

Сообщества

Общение

Теги

Популярные авторы

Сообщества

Юриспруденция

Теги

Популярные авторы

Сообщества

Наука

Теги

Популярные авторы

Сообщества

IT

Теги

Популярные авторы

Сообщества

Животные

Теги

Популярные авторы

Сообщества

Кино и сериалы

Теги

Популярные авторы

Сообщества

Экономика

Теги

Популярные авторы

Сообщества

Кулинария

Теги

Популярные авторы

Сообщества

История

Теги

Популярные авторы

Сообщества