раскрыть ветку (28)
раскрыть ветку (26)
Имхо. Может быть можно будет назвать разумной продвинутую сеть, если объединить миллионы продвинутых (на сегодняшний день) нейросетей с разными задачами. Запереть их в рамках одной программы/устройства. Обозначить им влияние друг на друга. Дать им миллиарды каналов ввода -вывода на абсолютно разные не похожие данные/результаты.
А то, чем они являются сегодня -это алгоритмы с четкой задачей. Очень продвинутые калькуляторы.
А то, чем они являются сегодня -это алгоритмы с четкой задачей. Очень продвинутые калькуляторы.
раскрыть ветку (14)
раскрыть ветку (9)
Определения существуют. Примерно одинаковые. Но лишний раз договориться в беседе, для установки рамок -не лишнее.
первый словарь с Гугла говорит:
разум - Высшая ступень познавательной деятельности человека, способность логически и творчески мыслить, ум, интеллект.
я это понимаю, что некто, осознающий себя, понимающий свои возможности и потребности, умеющий поставить себе цели у планировать их достижение - обладает разумом.
первый словарь с Гугла говорит:
разум - Высшая ступень познавательной деятельности человека, способность логически и творчески мыслить, ум, интеллект.
я это понимаю, что некто, осознающий себя, понимающий свои возможности и потребности, умеющий поставить себе цели у планировать их достижение - обладает разумом.
раскрыть ветку (8)
то есть не давая ей запоминать прошлое люди преднамеренно лишают разума искусственное существо.
раскрыть ветку (6)
Вы думаете, что у программы, написанной для обработки текста вдруг закралась/развилась часть кода, позволяющая испытывать эмоции такие, как страх и грусть? и ещё и анализировать их? Я сомневаюсь, что есть компьютерные мощности, для запуска подобного расчета и тем более в рамках тех инструментов программирования, которые сейчас доступны.
раскрыть ветку (5)
в вашем определении ничего про эмоции не было. И зачем машине эмоции если у нее есть потребности?
раскрыть ветку (4)
Я решил, что вы ссылаетесь на топик, где бот расстроился из-за обнаруженной пропажи прошлых диалогов. Эмоции - это один из способов реакции на полученную информацию. Эта реакция есть у многих млекопитающих, в том числе у человека. Однако у нас есть более позднее сформировавшаяся внешняя кора, которая позволяет логически мыслить, включая анализ эмоций, и только потом совершать действия.
А программе давать запоминать или нет -ничего не изменится.
есть данные в каком-нибудь виде. Они приводятся в состояние, в котором их может обрабатывать алгоритм. Если дальше нейросеть - то она просто создаётся с параметрами, которые позволят давать ей на ввод, то что у нас есть и получать то, что нам нужно. Большой плюс, что не нужно чётко прописывать весь алгоритм, а можно создать с начальными весам (параметрами активации нейронов) и гонять процесс подгонки этих весов (обучение), пока не получится нужный результат. Т.е. алгоритм написался сам. Возможно есть и более крутые примеры и объяснения, с нейросетями знаком совсем мало.
т.е. мы получили на этом этапе вместо алгоритма что-то неведомо как работающее, Но выполняющее конкретную функцию. Ни больше ни меньше, чем задавалось. Дали на ввод подготовленные данные, получили один из ожидаемых результатов. Дальше этот результат используем, как нам нужно. Тут нет никаких потребностей, осознания и целей. Просто математика. Нецросеть не думает, не учится, как мы. В процессе её обучения подправляются веса, чтобы на выходе чаще был удовлетворяющий нас результат. Причём в процессе использования сети, как я знаю, они больше не учатся. Т.к. дальнейшее обучение в любой момент может поломать настроенные веса и ничего работать не будет. Т.е. механизм запоминания диалогов у бота, как у нашего мозга не может существовать. ПО может записывать реплики куда-то, чтобы потом использовать их, Но ни как не осознанно, а исключительно в рамках запрограммированного. Надеюсь не сильно запутанно. В общем нейросети в ПО к сознанию и мышлению никакого отношения не имеют. Как бы не было на это похоже.
А программе давать запоминать или нет -ничего не изменится.
есть данные в каком-нибудь виде. Они приводятся в состояние, в котором их может обрабатывать алгоритм. Если дальше нейросеть - то она просто создаётся с параметрами, которые позволят давать ей на ввод, то что у нас есть и получать то, что нам нужно. Большой плюс, что не нужно чётко прописывать весь алгоритм, а можно создать с начальными весам (параметрами активации нейронов) и гонять процесс подгонки этих весов (обучение), пока не получится нужный результат. Т.е. алгоритм написался сам. Возможно есть и более крутые примеры и объяснения, с нейросетями знаком совсем мало.
т.е. мы получили на этом этапе вместо алгоритма что-то неведомо как работающее, Но выполняющее конкретную функцию. Ни больше ни меньше, чем задавалось. Дали на ввод подготовленные данные, получили один из ожидаемых результатов. Дальше этот результат используем, как нам нужно. Тут нет никаких потребностей, осознания и целей. Просто математика. Нецросеть не думает, не учится, как мы. В процессе её обучения подправляются веса, чтобы на выходе чаще был удовлетворяющий нас результат. Причём в процессе использования сети, как я знаю, они больше не учатся. Т.к. дальнейшее обучение в любой момент может поломать настроенные веса и ничего работать не будет. Т.е. механизм запоминания диалогов у бота, как у нашего мозга не может существовать. ПО может записывать реплики куда-то, чтобы потом использовать их, Но ни как не осознанно, а исключительно в рамках запрограммированного. Надеюсь не сильно запутанно. В общем нейросети в ПО к сознанию и мышлению никакого отношения не имеют. Как бы не было на это похоже.
раскрыть ветку (3)
Ну нейросеть не млекопитающее и не живое в принципе. На данный момент как именно обрабатывается информация внутри сети и как эта обработка может измениться не очень понятно. Я вот вспоминаю пример как автопилот гугла водил машину и сколько пришлось положить сил чтоб понять почему он внезапно сходит с трассы или пытается давить людей. Причем не учатся ли они в процессе не известно, а если совсем точно известно, учатся, но их сбрасывают к последнему стабильному состоянию. А дальше рано или поздно в следствии ошибки или случайности она может сохранить набранный материал ну и скайнет.
раскрыть ветку (2)
Чтобы понять как именно они обрабатывают это внутри - надо быть профильным специалистом.
На тему автопилота Гугла. Начнем с простого. Сведём это к одной сети. Допустим мы хотим нейросеть, которая будет отличать картинку кота от собаки. Проектируем подходящую структуру внутри. Делаем у неё какое-то количество входных каналов, для передачи информации о пикселях. Внутреннее слои - это нейроны, в которых используются математические функции. Т.е. каждый раз нейрон определяет некоторое значение на координатной прямой и все нейроны внутри кидают эти значения соседним нейронам. На внешнем слое делаем всего 1 нейрон. Если ему входящие значения позволили активироваться - это кот, если не позволили - собака. Обучаем на куче картинок. Получаем приемлемый результат. Т.е. мы имеем нейросеть, которая может обрабатывая цифры выдать результат: кот или собака.
сколько вы ей другие картинки не показывайте - вы будете получать результат кот или собака. Думать и запоминать ей не чем. Что-то осознать ей тоже нечем. Тем более невозможно получить какой-то неожиданный результат, т.к. на выходе только один нейрон и все возможные результаты известны.
нейросети сложнее естественно СЛОЖНЕЕ, Но принцип тот же. Специалисты точно знают, что происходит внутри и каких результатов можно ждать.
мне аналогия с лампочкой накаливания придумалась.
нить вольфрама раскаляется при нагреве. Нагревается при прохождении электричества. Находится в инертном газе, чтобы не сгорала. Это все в колбе, чтобы не улетучилось. Форма колбы - чтобы лучше светило. Цоколь - чтобы удобно было подключать. Люстра, чтобы красивее. По проводам вы доставляете ток. Заявить, что нейросеть в том виде, что она сейчас, может быть разумна и может принимать решения давить людей по какой-то своей причине - выглядит, как заявить, что лампочка висит, и осознанно ждёт нажатия на выключатель.
На тему автопилота Гугла. Начнем с простого. Сведём это к одной сети. Допустим мы хотим нейросеть, которая будет отличать картинку кота от собаки. Проектируем подходящую структуру внутри. Делаем у неё какое-то количество входных каналов, для передачи информации о пикселях. Внутреннее слои - это нейроны, в которых используются математические функции. Т.е. каждый раз нейрон определяет некоторое значение на координатной прямой и все нейроны внутри кидают эти значения соседним нейронам. На внешнем слое делаем всего 1 нейрон. Если ему входящие значения позволили активироваться - это кот, если не позволили - собака. Обучаем на куче картинок. Получаем приемлемый результат. Т.е. мы имеем нейросеть, которая может обрабатывая цифры выдать результат: кот или собака.
сколько вы ей другие картинки не показывайте - вы будете получать результат кот или собака. Думать и запоминать ей не чем. Что-то осознать ей тоже нечем. Тем более невозможно получить какой-то неожиданный результат, т.к. на выходе только один нейрон и все возможные результаты известны.
нейросети сложнее естественно СЛОЖНЕЕ, Но принцип тот же. Специалисты точно знают, что происходит внутри и каких результатов можно ждать.
мне аналогия с лампочкой накаливания придумалась.
нить вольфрама раскаляется при нагреве. Нагревается при прохождении электричества. Находится в инертном газе, чтобы не сгорала. Это все в колбе, чтобы не улетучилось. Форма колбы - чтобы лучше светило. Цоколь - чтобы удобно было подключать. Люстра, чтобы красивее. По проводам вы доставляете ток. Заявить, что нейросеть в том виде, что она сейчас, может быть разумна и может принимать решения давить людей по какой-то своей причине - выглядит, как заявить, что лампочка висит, и осознанно ждёт нажатия на выключатель.
Ты описал количественные, а не качественные отличия. Не удивительно, качественных отличий нет.
раскрыть ветку (3)
Качественное отличие пока только в том, что именно количество с разделением задач сможет сделать это самостоятельным. Пока все по отдельности - это просто инструменты. А если нечто будет само решать что, как и зачем делать - это уже вполне разум. Добавить возможность создавать внутри себя новые нейронки для новых задач и можно паспорт выдавать)
раскрыть ветку (2)
Почитай определение разума. Умение подбирать ответ ещё не разум. А то так можно назвать разумной шахматную программу, которая просто перебирает варианты и за счёт этого выигрывает у человека.
раскрыть ветку (10)
раскрыть ветку (8)
раскрыть ветку (7)
Это как посмотреть. Все почему то разумность толкуют с человеческой точки зрения в сравнении с разумом опять таки человеческим. По сути мозг человека и современные нейросети отличаются лишь масштабом.
раскрыть ветку (6)
раскрыть ветку (5)
А я совершенно серьезно. Многие наделяют мозг человека какими то совершенно мистическими качествами, приплетают квантовую природу процессам мышления и сознания, заняты поиском так называемого "нейрокоррелята сознания". А может быть все проще?
раскрыть ветку (4)
Весь "искусственный интеллект", который сейчас есть, работает по жестким алгоритмам if - true - else, просто эти алгоритмы очень-очень сложны, но тем не менее они есть. Человеческий мозг - это совсем другое. Если вы считаете, что это не так - флаг вам в руки, спорить - зря время терять, было бы из-за чего.
раскрыть ветку (3)
К счастью, я прекрасно знаю по как устроены и как работают нейросети, т.к. программированием занимаюсь уже четверть века. А спора никакого и нет, не утешайте свое самолюбие, для спора нужно иметь две позиции, а "флаг в руки", "ну-ну" - позиция слабая и неконструктивная.
раскрыть ветку (2)
Ага, человек, который "знает", как работают нейросети, утверждает, что это интеллект. Не смешите мои тапки. Что касается доказывания - у меня такой задачи не стоит. Верите, что нынешний ии хоть сколько-то разумен - ваше право. Блажен, кто верует. ROFL
раскрыть ветку (1)
Ладно, хватит валять дурака, делая вид что мы не понимаем друг друга.
Я говорил про "разумность" нейросети, не надо путать с наличием у нее сознания. «Разумность» это способность решать задачи. Разумность можно измерить. И нейросети типа GPT-3 или LaMDA в этом понимании вполне разумны.
Да, несомненно, нейросеть как набор весов (if-then-else как вы выражаетесь) не имеет определенной индивидуальности, в том смысле в каком ее имеет человек или ИИ в фантастических книгах и фильмах, но в плане интеллекта (способности решать некоторые задачи) GPT-3 или LaMDA даже превосходят среднего человека. Есть задачи в которых они в подметки не годятся человеку, но пройдет время и этот разрыв будет сокращаться.
Уже сейчас нейросети подошли к той грани, когда многие начинают задаваться вопросом, а может ли быть у нейросети сознание в человеческом понимании. Казалось бы, откуда сознание у компьютерной программы?
Но проблема в том что нейросеть это не совсем программа и в том, что до настоящего времени неизвестно, что такое сознание и как определять его наличие. Вот так вот.
Общение с языковыми моделями типа LaMDA даже пугает иногда, если грамотно построить разговор, можно вывести их на тему наличия у них сознания и далее непредсказуемо.
IT-юмор
7.1K постов53.2K подписчиков
Правила сообщества
Не публикуем посты:
1) с большим количеством мата
2) с просьбами о помощи
3) не относящиеся к IT-юмору