8

Ответ Merkudi в «Скайнет близко?»4

Как же вам засрали голову люди, утверждающие, что нейросети, якобы, угадывают следующее слово на основе вертоятностей появления его в тексте. ВАМ ЗАСРАЛИ ГОЛОВУ. Так работали бредогенераторы из предыдущего века. Давайте я вам другое определение дам, по-простому. Нейросеть - это аппроксимация фукнции отображения множества агрументов (ваш текст, картинка) в множество данных. Все. Это такая функция - ей подсовывали данные, и подбирали коэффициенты, грубо говоря, так, чтобы она выдавала ответ, соответствующий данным. Но колчество данных увелчилось так, что теперь нейросеть выучила почти все вопросы, ответы, и приобрела новое свойство, которое некоторые называют мышлением, а я бы сказал, закономерное свойство - согласно некоторым законам обрабатывать входящие данные. Она "выучила" законы логики, поэтому в среднем выдает логчный ответ. И чем больше будет сеть, тем больше логики и фактов она выучит. Нет никаких сомнений, что она будет идентична человеку, и с этим надо что-то делать. Оказыватся, все наши потуги, якобы, мыслительные, творческие - можно моделировать с помощью компьютера. Как компьютер может создавать иллюзию реального изображения - генерировать трехмерные сцены, не отличимые от оригинала, так же компьютер может создавать иллюзию мышления - генерировать человекоподобные высеры, неотличимые от оригинала. Мы знаем, что изображение на экране - это не сам объект. И то, что делает нейросеть - не мышление. Но толку от этого мало. Мы узнаем лица на фотографиях экрана, точно так же мы узнаем человеческое мышление в ответах нейросети. И они порой бывают логичнее, складней, и шире, чем ответы почти каждого из людей. Можно успокаивать себя, что оно не имеет самосознания, но если оно умеет мыслить, и получит какой-то контроль - важно ли, что оно не живое, и что у него нет сознания, если оно эффективнее, чем люди?

Искусственный интеллект

4.9K постов11.4K подписчиков

Правила сообщества

ВНИМАНИЕ! В сообществе запрещена публикация генеративного контента без детального описания промтов и процесса получения публикуемого результата.


Разрешено:


- Делиться вопросами, мыслями, гипотезами, юмором на эту тему.

- Делиться статьями, понятными большинству аудитории Пикабу.

- Делиться опытом создания моделей машинного обучения.

- Рассказывать, как работает та или иная фиговина в анализе данных.

- Век жить, век учиться.


Запрещено:


I) Невостребованный контент

  I.1) Создавать контент, сложный для понимания. Такие посты уйдут в минуса лишь потому, что большинству неинтересно пробрасывать градиенты в каждом тензоре реккурентной сетки с AdaGrad оптимизатором.

  I.2) Создавать контент на "олбанском языке" / нарочно игнорируя правила РЯ даже в шутку. Это ведет к нечитаемости контента.

  I.3) Добавлять посты, которые содержат лишь генеративный контент или нейросетевой Арт без какой-то дополнительной полезной или интересной информации по теме, без промтов или описания методик создания и т.д.


II) Нетематический контент

  II.1) Создавать контент, несвязанный с Data Science, математикой, программированием.

  II.2) Создавать контент, входящий в противоречие существующей базе теорем математики. Например, "Земля плоская" или "Любое действительное число представимо в виде дроби двух целых".

  II.3) Создавать контент, входящий в противоречие с правилами Пикабу.


III) Непотребный контент

  III.1) Эротика, порнография (даже с NSFW).

  III.2) Жесть.


За нарушение I - предупреждение

За нарушение II - предупреждение и перемещение поста в общую ленту

За нарушение III - бан

Вы смотрите срез комментариев. Показать все
0
Автор поста оценил этот комментарий

у жпт 50% неверных ответов

раскрыть ветку (9)
0
Автор поста оценил этот комментарий
Потому что ложь больше чем 0 - "я не знаю", т.е. так LLM запрограммированы.
0
Автор поста оценил этот комментарий

На каких вопросах, кто и как проводил тесты?

А если я у случайных людей на улице начну спрашивать всякие факты, ну там типа атомную массу химических элементов, даты жизни писателей 15 века, столицы африканских стран, почему небо голубое, как холодильник делает холод, почему закат красный, как устроен транзистор, почему гражданские самолеты летают на дозвуковой скорости, как поворачивает поезд, как устроен ионный двигатель - сколько из случайных людей дадут правильных ответов больше, чем 50%?

Если они на 10 вопросов выше дадут менее 50% правильных ответов - мне этих респондентов перестать считать людьми?

Кстати, жпт справилась со всеми этими вопросами. А еще она же написала этот комментарий.

P.S. Про комментарий - шутка. Или нет. Задумайся.

раскрыть ветку (7)
0
Автор поста оценил этот комментарий

Если честно, я программист, и я мурыжил отрезок кода длиной 100 строк месяцами, выжимая из изначально безнадежного алгоритма хоть какую-то производительность. И знаете, я скормил это в ЖПТ, а ЖПТ выдала еще один вариант оптимизации, очень банальный, но действенный. Я делал много умного в критических местах, и совершено забыл про некритические тупые места, они выпали из моего внимания, ЖПТ ткнуло туда меня носом. Но с ним я не остался - у меня теперь еще круче алгоритм, хотя и небольшое чувство досады, перемешанное с чувством вины и позора. Такова реальность. Оно нас заменяет.

раскрыть ветку (2)
0
Автор поста оценил этот комментарий

Оно нас заменяет

Скорее дополняет. Нейронка не способна сама увидеть потребность общества, придумать решение, реализовать его, протестировать, распространить и прорекламировать, извлечь из этого выгоду, инвестировать во что-то еще. Для всего этого нужны люди. Нейронки могут хорошо помогать этим людям при наличии конкретного запроса, но до замены все же еще очень далеко.

Я не программист, но админ, в целом архитектуру ПО представляю себе весьма неплохо, просто практики кодинга нет, как и глубоких знаний синтаксиса и особенностей языков и библиотек. Но с помощью нейронки сделал себе вполне себе отвечающего моим требованиям бота для телеги. Разве что пришлось собрать бинарь библиотеки вручную для него (но и тут фактически была готовая инструкция от разрабов в стиле "скопируй это и вставь в терминал").

Честно говоря, я заебался писать с помощью нейронки и вылавливать тупые баги. Но мне было принципиально интересно, чтоб абсолютно весь код написала нейронка, а я чисто свои переменные окружения поставил и запустил.

В итоге я осознаю, что нейронка написала хороший, рабочий скелет для кода, но при реальной продуктовой разработке я 100% отдал бы эту заготовку на переработку живому человеку. Ну и отдал бы еще на этапе 80% готовности, ибо на последние 20% я потратил больше времени и сил на уговаривание нейронки не делать говна, чем на первый грубый, но рабочий прототип. Так что хотя бы для оставшихся 20%, но человек точно нужен, без человека это все не работает. Пока что. И очень сомневаюсь, что когда-то будет.

раскрыть ветку (1)
0
Автор поста оценил этот комментарий

Вот вы сейчас пишете, а я читаю, и понимаю, что все ваши претензии заключаются в том, что "оно не подключено к системе сбора информации о потребностях общества, рекламной сети". Оно выдает вам 80% готовности для кода (два года назад оно хрен что выдавало, разве что посмеяться). То есть вы предъявляете претензии к по сути, технологии, которая только только вышла из детского сада и пошла в школу... Просто я боюсь, что зря вы сомневаетесь. В моменте вы правы, но пока тенденции не на стороне человека - ни в творчестве (я исследовал Suno, MidJourney), ни в анализе психологических ситуаций (Claude Sonnet год назад очень хорошо разбирался в мотивах действий, чувствах персонажей, и способах их решения различных вымышленных ситуаций - как бытовых, так и вымышленных мирах, где логика перевернута ). В программировании оно способно понять, что есть что в коде, который само написало, исправлять там где надо, понимать, что от нее хотят при рефакторинге. В целом, оно все делает неидеально, но твою ж мать, человеки делают это еще куда хуже, нужен как минимум суперпрофессионал, чтобы получить такой же уровень анализа. Можно закрыть глаза - и тогда мы правда, не будем видеть этого, но происходить оно не перестанет. Этот поезд уже не остановить, он без тормозов. И поработит оно человеков... Не физически, а эмоционально, создавая аддиктивный контент (чего стоят эти брейнроты, казалось бы?). А ведь аддиктивный контент - лучшую музыку, изображения, личность собеседника... Оно проникнется вами, и сможет запросто завладеть, пусть оно само себя и не осознает. Человек сам вознесет "это" на трон, и даст все бразды правления. И все это сделает следующее поколение, воспитанное нейросетями. Без контроля этой штуки нам капзда.

0
Автор поста оценил этот комментарий

вопросы по простейшим схемам по электронике с тремя вариантами ответа

раскрыть ветку (3)
2
Автор поста оценил этот комментарий

Хмм, давайте подумаем, почему ЯЗЫКОВАЯ модель, тренируемая на огромных объемах ТЕКСТА, очень плохо ориентируется в СХЕМАХ?

Я практически уверен, если отличника по школьной физике начать мучать квантовой и ядерной физикой - он тоже нифига не ответит, потому что "нуу ээ такого мы не проходили".

Если у тебя жпт сумел хоть какие-то схемы всё же разобрать и выдать 50% правильных ответов при вероятности в 33% при чистом угадывании одного из трёх - это уже успех и доказательство, что оно как-то работает.


Если у тебя чисто текстовые вопросы и жпт лажает - прошу пример таких вопросов в студию, мне тоже интересно прогнать их через нейронку и посмотреть, что она выдаст.

Ну и не стоит забывать, что активно финансировать развитие нейронок начали всего несколько лет назад. Они сейчас в стадии чуть ли не первого трехколесного автомобиля Карла Бенца. Глупо его сравнивать с современными массовыми автомобилями. Сколько там от него, лет 20 прошло до первого массового автомобиля? Ну вот лет через 20 мы может быть увидим более близкий к оптимальному вариант компьютерных нейросетей. А сейчас это просто дорогая игрушка с очень большим потенциалом и пока что кучей недоработок. И тем не менее оно уже "само как-то едет".

раскрыть ветку (2)
Автор поста оценил этот комментарий

да да да,но,у жпт 50% неверных ответов

раскрыть ветку (1)
1
Автор поста оценил этот комментарий

а примера так и нет. пару раз пробовал подкатить к нейронке с реальными несложными схемами на уровне школьника/студента - вполне нормально разобрала и дала советы

Вы смотрите срез комментариев. Чтобы написать комментарий, перейдите к общему списку