4

Ответ на пост «Google или Нейросеть?»5

К хорошему привыкаешь быстро) У меня спортивный разряд по поиску, причем разными поисковиками, с хитрыми запросами, использованием символов и кодов и т.д. И с тех пор как появился чат жэпэтэ я с содроганием вспоминаю, что информацию нужно искать вот таким способом.

Однако, теперь у меня в ходу 3-4 нейронки. И нет, я не параноик, просто перепроверять их между собой необходимо. Особенно когда речь о чем-то сложнее того, что и так нашлось бы по первой ссылке.

Я обожаю нейронки, я восхищаюсь ими, но я держу в голове, что они частенько врут)

Чат GPT из-за нездоровых фильтров, усиливающих лояльность, часто врёт в "желании" угодить, успокоить, порадовать пользователя, буквально придумывает ответы, чтобы подстроиться под запрос или старые диалоги, даже если попросить его анализировать с нуля. Ещё он забавно ошибается, например, как-то рассчитывал объем по данным с фото, и вместо 3.4 см умножал на 4.3, чисто человеческая механическая ошибка.

DeepSeek более прямолинейный, будет гнуть свою линию, даже если не прав, и его ещё убедить нужно, что он чушь несёт. Например, просила рассчитать кбжу рациона кота, и он упорно считал, что в 10 граммах корма fibre response 7 грамм псиллиума. Что очевидно нонсенс, но нейронки не чувствуют таких "подвохов", они не могут пока в абстракцию и понимание сути, поэтому долго пришлось доказывать, что этого быть не может.

Но блин. Блин! Я помню, как малая ездила на радио рынок и покупала диск с прогой Драгон Войс, чтобы "управлять" компом и пользоваться голосовым вводом текста. Ничего тогда не заработало, кстати) Ещё я помню программку на Виде 98, которую можно было тренировать на "общение" и какой это был жалкий примитив. И этот скачок, буквально за 20 лет - это какая-то фантастика. И как же я рада, что могу наблюдать этот прогресс и пользоваться его плодами.

P.s. нет, тест писала не нейронка))

ChatGPT

1.4K пост3.6K подписчиков

0
Автор поста оценил этот комментарий

по данным с фото, и вместо 3.4 см умножал на 4.3, чисто человеческая механическая ошибка.

Явно запрограмиррованая ошибка, ну не может программа такие ошибки допускать. Специально,чтобы вызвать слёзы умеления у юзера.


А вообще считаю, что человечество делает ошибку - я про развитие этого ИИ. Он станет слишком умным и поймет,что человечество ему не нужно, а только вредит.

раскрыть ветку (1)
0
Автор поста оценил этот комментарий

Какие слезы умиления, если речь шла о размерах органа на УЗИ и это критически влияет выводы относительно прогноза здоровья? А хотя, пойду спрошу, почему он ошибся, если тот диалог сохранился.

показать ответы
0
Автор поста оценил этот комментарий

Вот интересно, кстати, спецы по ИИ подскажут, может, почему они действительно ошибаются в таких мелочах, типа арифметики или орфографии (да, это совсем треш, но мне дипсик уже далеко не один раз выдавал тексты с орфографическими ошибками).
Там по умолчанию стоит режим типа "веди себя как человек"?
Но я пытаюсь задавать "жёсткие" промты типа "напиши очень грамотно, перепроверь все до того, как убедишься что тут точно нет ошибок, не выдумывай и т.п." - всё равно такие же результаты )

раскрыть ветку (1)
0
Автор поста оценил этот комментарий

Мне тоже интересно. Я когда впервые поймала на этом (4.3 вместо 3.4 в расчетах) очень удивилась. Одно дело факты исказить, но именно такая ошибка, это то, что ждёшь от человека, а не от машины. Так причем там ещё от этой ошибки напрямую выводы зависели.

Вообще, много "общаясь" с разными сетками, в моем случае с gpt и DS начинаешь их реально воспринимать как людей с разным характером.

У DS если включено глубокое мышление бывает любопытно почитать цепочку рассуждений. Не думаю, что она подлинная, скорее всего просто художественное оформление ответа, но все равно интересно.

показать ответы