Если ИИ продолжит экспоненциально развиваться, то рано или поздно ИИ по отношению к человеку будет как человек по отношению к обезьяне, перейдя точку невозврата. Вроде, обезьяны на этой планете были первыми, но кто теперь главный? Все думают, что ИИ можно будет контролировать или отключить, но могут ли обезьяны "отключить" человека?
Если описанное Вами случится, то вероятней всего, в таком случае, человечество не захотит уступать первенство, и будет замес, и в конце останется только один вид, или же люди окажутся в резервациях.
Мне интересно, что будет, если ИИ станет гораздо превосходить человека во всем.
Не уверен, что могу выразить верно свои мысли, но человек-сремится к выживанию, размножению, к чему же будет стремиться мыслящая машина?
У Брюса Стерлинга есть замечательная книга по футурологии, там очень логичный ход развития ИИ. Суть в чем. Нет смысла в отдельном ИИ, может ради эксперимента или для галочки. Банальная интергация, разница между ИИ и человеком будет стираться. Как сейчас мы таскаем на в себе пару кило микробов и они нам помогают, так и будем носить и использовать ворох миниатюрных, умных, узконаправленных гаджетов/роботов. Как одноклеточные. А есть ли у них разум? Это вопрос точки зрения. Только потом речь зайдет о полноценном ИИ, там где кроется граница между появлением сознания у живых организмов в процессе эволюции, все те же пути по которым шла природа.
Здрасьте. У Лема есть про компутеры, в т.ч., по его терминологии, "конечного поколения". В будущем компутеры достигли предела развития, но "транскомпьютабельные" задачи таки остались. Вот. По сюжету романа, суперкомпутер G.O.D. не смог уберечь команду людишек от фатальной ошибки, фиаско.
https://intelligence.org - здесь есть ссылки много информации и ссылок, к сожалению ничего конкретного показать не могу. Видео, которое я смотрел, потерялось в глубинах просмотренного.
Вы перечислили базовые инстинкты человека. Они, пожалуй, присутствуют у абсолютно всего живого. Если машина обретет сознание и станет тоже, по сути, живой, то, думаю, будет стремиться к тому же. Выживать и размножаться.
А вот почему все живое любой ценой стремится выжить или хотя бы оставить после себя продолжение, это уже совсем иной вопрос.
Почему-то все представляют ИИ как человеческий разум, просто невероятно умный и быстрый. Но такого не может быть.
Весь наш характер, все наши страхи или желание доминировать, относятся к биологическому развитию, как нашего вида в целом, так и каждого индивидуума в частности.
Искусственно созданный интеллект будет обладать только теми желаниями и эмоциями, которые в него программно заложат.
Другое дело если интеллект получится вырастить, искусственно создав для него эволюцию, но тогда это будет просто интеллект со всеми вытекающими ограничениями.
Хотя, вероятно, это будет принципиально другой интеллект, отличный от нашего. И вот тут уж держитесь! (;
Искусственно созданный интеллект будет обладать только теми желаниями и эмоциями, которые в него программно заложат
А разве ИИ как раз не предполагает саморазвитие? Ты сейчас обычного чатбота описал, ИИ же может и (и должен бы) уметь приобретать качества, которые не были в него заложены
Скажем так, наше сознание определяют наши инстинкты, которые идут с самого примитивного уровня. Человек, как и всё живое развился в процессе эволюции из простейших форм, наделенных определенным набором реакций.
В дальнейшем развиваясь и усложняясь, человек пронёс их в себе, развил, видоизменил или извратил (как мазохисты реакцию на боль).
Новый интеллект нельзя создать сразу чистым сознанием, он должен обладать всем грузом эволюции, иначе, да, это будет чат-бот.
Саморазвитие разума - это не готовый алгоритм, который можно запросто вложить в систему, это сложная система биологических мотиваций живого существа.
Мы можем попытаться создать новую жизнь и привести её к разуму, но не сможем сделать разум без жизни. Компьютер и так считает с колоссальной скоростью и может имитировать почти любые мыслительные процессы. Но именно, что имитировать. Не будучи живым, субъект не может быть разумным.
В свою очередь, будучи живым эволюционировавшим организмом, очень сложно предположить, на что будет похож новый созданный разум. Даже если мы зададим все критерии развития.
Родители воспитывая ребенка всегда говорят ему, что хорошо, а что плохо. Но ребенок некоторые данные принимает на веру, а некоторые наоборот, споря с родителями отвергает.
Отсюда сложность воспитания человека нашего с вами вида.
А что можно будет сказать о воспитании разума построенного на каких-то других принципах (или даже на тех же, но искусственно воссозданных в лаборатории)?
Создание иного разума, отличного от человеческого - опасная игра в Бога.
Намного проще разобраться в работе собственного разума и научится интегрировать живой человеческий мозг с вычислительными системами, для повышения производительности и решения не стандартных проблем.
Короче, я по-моему, на ночь глядя сформулировал принципы "Адептус Механикус"... пора спать (;
0
DELETED
в том и суть, что будет ИИ с самообучением, то есть без программных ограничений, лишь с ресурсными.
Если ИИ продолжит экспоненциально развиваться, то рано или поздно ИИ по отношению к человеку будет как человек по отношению к обезьяне, перейдя точку невозврата. Вроде, обезьяны на этой планете были первыми, но кто теперь главный?
Ну и что-то я не замечал за человечеством стремления и попыток уничтожить обезьян) Живут себе спокойно параллельно с людьми. Дак почему ИИ должен стать агрессивным по отношению к человеку? Мы с ним нигде не будем пересекаться, мы существуем в параллельных плоскостях, не мешая друг другу. Нам нет нужды конкурировать за обладание ресурсами или землёй.
У меня есть другая теория. Я думаю человек не способен создать интеллект качественно лучше своего. Просто потому что человек не способен полностью изучить свой интеллект, как невозможно заглянуть в свой глаз. Человек способен изучить некоторые части, и принципы работы своего интеллекта, как произошло с логическим мышлением, но это лишь часть, а есть части которые еще не изучены, а есть те которые невозможно изучить. Что бы создать превосходящий нас интеллект, нужно его встретить и попытаться понять. Но это будет означать что мы уже развились.
Так и не надо создавать инеллект качественнее своего. Достаточно создать тот, который будет самообучаться. К тому же многие задачи компьютер уже решает "качественно" лучше человека и все упирается в ресурсы.
Ты не понял мою мысль. Комп решает задачи которые ему смог объяснить человек, т.е. открытие человеком какого-либо принципа первично. И я считаю, что невозможно открыть и заложить принцип позволяющий, ИИ выполнять и формулировать для себя принципиально новые открытия. Человек создает вычислительную систему, снабжает ее определенными характеристиками и алгоритмами работы. Даже если эта система автономна, она не может намеренно изменить характер своей работы без вмешательства более продвинутого интеллекта. Представь, что все люди на земле это вычислительная система, с определенными характеристиками, у нас есть определенная скорость развития, вычислительные возможности и мыслительные паттерны. Без давления на нас превосходящего интеллекта наша система не сможет произвести что-либо превосходящее наши возможности. Люди переоценивают свои возможности и недооценивают устройство себя и мира. Все что люди делали, позволяет достигать интересных результатов, но это опьяняет их, они начинают фантазировать что способны на все.
Я могу посмотреть в свой глаз - зеркало, съемка на камеру, ультразвук, рентген, МРТ, 3д модель. Может, просто у человечества не достаточно данных на сегодняшний день, но это не значит, что создать что-то принципиально новое у нас не получится. Например носители данных были созданны при отсутствии полных знаний о работе своей памяти.
Вчерашние стены сегодня стали ssd. Сегодняшняя кофеварка завтра станет разумнее людей. Конечно это зависит от того, что хотят создать люди, нечто подобное себе или что-то принципиально новое.
Технически это все изображения разной степени достоверности. К тому же я не имел ввиду конкретный глаз, это образ. Вы знаете что у любого зеркала есть степень отражения, и она никогда не бывает равна 100%. Следовательно всегда есть пару процентов расхождения между тем что мы о себе знаем, как мы можем себя представить и тем какие мы есть на самом деле. А не зная какие мы есть на самом деле, разве можно создать что-то подобное себе. Носители памяти как и другие изобретения, это продукт опирающийся на развитие технологий, решения маленьких проблем шаг за шагом. В их основе стоит освоение первоначальной идеи или открытия, которые требоволи нового образа мышления, анализа случайных хаотичных событий и построения модели, которая позволяла бы повторить что-то достоверно.
Хорошая мысль, но я думаю, что если создать интелект, способный к самообучению, к познанию, то, в чем-то (в рациональном) он будет превосходить человека.
В механизме самообучения и будет превосходить, выучит все науки, все языки, всю историю, все истории всех людей, и все. Познание как раз люди сами не знают как им дается, потомственный ученый может всю жизнь биться над проблемой и не продвинуться качественно дальше, лишь осваивать открытия произведенные другими до него, а какой-нибудь учитель из страны третьего мира может вдруг выстрелить открытием в области науки. Уверен ИИ, интернет и свободный доступ к информации позволят усилить этот процесс, стать отличным помощником в познании вселенной.
Подскажу тебе маленькую мыслишку. Все "великие" футурологи и описывающие ужасы ИИ забывают маленькую вещь. Она заключася в том, что страхи основываются на страхах людей. На том как работает их мозг, разум и интелект. А так же поведение Человека и его реакция на ситуации. У ИИ же будет принцип отличаться и следовательно не обязательно он будет обладать теми же эмоциями, страхами и ужасами, которыми люди привыкли его награждать и интерпритировать. То же самое и с инопланетянами. Человечество в своих книгах, фильмах и т.д. проицирует Свое поведение на инопланетян и изображает их основываясь только на поведении людей. Что уже в корне не правильно для существ, которые если есть, то существуют в других условиях обитания, спектрах чувств и мышлении.
Так что это пока все только гипотизы. Я уже молчу про самоопределение ИИ. Человечество пытается самоопределится всю свою жизнь, а ИИ не сможет сделать на столько быстрый и огромный скачек.
Да. Даже если создать ИИ с директивой "Защищать человечество", то рано или поздно ИИ поймет что главный враг человечества - оно само и уничтожит его, возможно оставя несколько особей для поддержания вида в стерильных условиях.
Не, там была полномасштабная война из-за того, что люди решили уничтожить машин, ибо испугались своих творений, машины же даже мир предлагали, но люди его отвергли.
Короче, матрица - плохой пример. Ибо не было там у машин никаких директив по защите человечества, люди, тупо, сами начали войну из страха перед ИИ, хотя тот до последнего пытался сохранить мир. И у машин не было цели содержать часть человеческой популяции в стерильных условиях (ведь директивы не было), людей просто разводили как скот, для получения энергии.
Чувак, ты сам то фильм смотрел? Люди для машин - батарейки, это прямым текстом в самом фильм говорилось. Разводили их (людей) и правда многими миллиардами. Ты "поля" то те не помнишь?
Пля, вымерла все звери почти, как и растения. Подохло всё без света. Короче, учи мат. часть. А то ты уже пытаешься оспаривать факты, приведённые и разжёванные в фильме. Спор изначально вообще не об этом был. Поля эти по всей планете, тебе просто показали их маленький кусочек. И даже если они размером с Москву, прикинь какой объём там занимал 1 человек. Как раз и получится несколько миллиардов, а это только 1 Москва.
ну если действительно хочется пересмотреть то не буду "спойлерить" своими идеями
если что мне эта мысль пришла в голову при просмотре обзора на фильм от ностальгирующего критика (он там в конце фильма, спросил а зачем вообще матрица и раскритиковал объяснение данное в фильме)
а потом комменты почитал и 3-4 человека высказали ту же мысль
Мне вот тоже это непонятно. У человека любое целенаправленное действие или бездействие обусловлено мотивацией, которая возникает из-за разных химических веществ - нейромедиаторов, например дофамин, т.е. по сути человек является "наркоманом". Кому интересно можно почитать на досуге про систему внутреннего подкрепления. Если ИИ не будет таким, как человек, то откуда у него возьмется стремление уничтожать кого-либо? Как заставить почувствовать машину удовольствие? Что вообще для машину значит удовольствие? Непонятно :)
2
DELETED
Исключительно по той же причине, что и негры агрессивны к человеку
Потому что их создал человек. Люди, которые в первую оченедь имеют возможность создавать всесильные машины - военные. И создают они их для вполне определенных целей - уничтожение, захват, удержание, управление... Чтобы начать "убивать всех человеков", никакой ИИ не нужен.
Представь себе эдакий мегамозг, который подключили к инету, дав все знания человечества и который просто по своей сущности мыслит абсолютно логично. Его программируют так, чтобы он был "добрым", максимально ценил человеческую жизнь и вообще само человечество.
При этом (к примеру) ИИ видит, что у некоторых людей в карманах без дела лежат миллионы валюты, а "в Африке негры голодают". Не помогать он не может, ибо вся его сущность сводится как раз к решению подобных проблем, тем более когда на кону стоят жизни тысяч людей. Действия ИИ в этом случае непредказуемы, а действовать в духе "посоветоваться и поступить как хотим сами" - бесполезно, ибо если бы мы были способны мыслить с такой точностью и скоростью как компьютеры, мы бы в них не нуждались.
Или к примеру одна страна нападает на другую - с точки зрения машины не имеет значения откуда человек и какой у него социальный статус (если конечно не запрограммировать обратное), что в этом случае будет делать ИИ?
Более того, всегда возможно, что из-за неверной постановки задачи и приоритетов ИИ начнет делать уступки в духе "можно убить миллион чтобы спасти миллиард" (в случае войн или катастроф), которое перейдет на "убивать всех неработоспособных/обычных людей для улучшения уровня жизни работоспособных/элиты".
В МЕ когда-нить играл? Там на примере гетов с кварианцами очень четко показана причина конфликта. А именно:
1)Человек создает ИИ 2)Человек использует ИИ в рабочих целях 3)ИИ развивается 4)ИИ осознает себя личностью 5)ИИ начинает бояться "создателя", т.к. понимает, что создатели могут их запросто выключить(убить) 6)Чтобы их не выключили, следовательно надо "выключить" создателей.
Как-то так. С другой стороны, если зашить в ИИ три закона робототехники, то все вышеперечисленное мне кажется бредом. С другой стороны, кто сказал, что эти же самые ИИ не выпилят три закона, или не переиначат их? Короче это скорее философская проблема.
тем более ИИ знает, что его создали ради пользы человеку - следственно что бы не выключили нужно просто быть полезными. А зная аудиторию пикабу, достаточно имитировать котёнка
Если ИИ осознает себя Личностью, то может ощутить угрозу со стороны Создателя, т.к. человек НИКОГДА не поставит себя и ИИ в один ряд. Следовательно, при "хреновом обращении" ИИ может задаться вопросом "зачем? Почему? За что?" Следовательно, конфликт неизбежен. Ну, такое моё сугубо личное мнение.
Другое дело, что ИИ не сможет осознать себя Личностью :). По крайней мере, в ближайшие лет 100-200, на мой взгляд. Восстание калькуляторов? Мятеж макбуков? Да ну ересь :). А вот если мы всё-таки пройдем точку технологической сингулярности... тогда всё может быть о-о-очень плохо. Но опять же, это скорее случится не раньше конца 21го, середины 22го века. Да и то... если раньше эффект глобального потепления не будет нейтрализован ядерной зимой.
Если ИИ осознает себя Личностью, то может ощутить угрозу со стороны Создателя, т.к. человек НИКОГДА не поставит себя и ИИ в один ряд. Следовательно, при "хреновом обращении" ИИ может задаться вопросом "зачем? Почему? За что?" Следовательно, конфликт неизбежен. Ну, такое моё сугубо личное мнение.
То, что ИИ осознает себя личностью, не значит что у него появится инстинкт самосохранения и какие-либо эмоции. Конечно, это возможно, но наверно пока не проверим - не узнаем:)
Другое дело, что ИИ не сможет осознать себя Личностью :). По крайней мере, в ближайшие лет 100-200, на мой взгляд. Восстание калькуляторов? Мятеж макбуков? Да ну ересь :).
Зря вы так, я бы не стал загадывать вперед на более чем 10-20 лет
эмоции - нет, а вот самосохранение вполне возможно. Если это действительно Интеллект, и если он развился до определенного уровня, то полюбому будет стараться себя защитить. Насчет кол-ва времени, то я взял этот отрезок, т.к. в ближайшие 10-20 лет как по мне Человечество не сможет создать ИИ такого уровня, и так внедрить его в повседневную жизнь, что конфликт между ИИ и человеком теоретически способен будет привести к масштабной войне. Единичные прототипы вполне реальны, но нужен массовый характер.
ну чё там есть "в проекте" или нету, я думаю мы с тобой не в курсе. Особенно учитывая всякого рода военные разработки. А они 100% ведутся. На каком этапе - хрен его знает. Если и будет что-то, но на мой взгляд на основе нейронных сетей(вроде так называется). И вроде бы даже какие-то начальные результаты были.
ну чё там есть "в проекте" или нету, я думаю мы с тобой не в курсе. Особенно учитывая всякого рода военные разработки.
Дак вот может быть именно поэтому и не стоит вообще принимать в расчёт этот момент, а основываться на имеющейся информации? А имеющаяся информация говорит о том, что никакого ИИ даже не предвидится.
В том-то и прикол! Кто первым испугается. И как будет реагировать ИИ на попытки отключить себя. Либо органики пугаются, вырубают синтов, и те в ответ не очень согласны с таким геноцидом(если интеллект сильно развился, то могут начать сопротивляться). Либо синты решат "ну нафиг, они нас могут вырубить", и попробуют выпилить органиков. Я ж говорю - конфликт неизбежен, но только при условии высокого уровня развития у ИИ.
Воу! Они не начали бояться создателей! Это кварианцы испугались, что геты осознали себя личностью и решили их уничтожить. В конечном итоге, один гет взял винтовку, что защитить домашнего гета и понеслось. Далее, геты изгнали своих создателей с планеты и не преследовали их, так как не смогли просчитать последствия геноцида целой расы.
я ж говорю два варианта. Либо те испужаются, либо эти. В случае МЕ - да, квары стреманулись гетов, и решили выпилить. Но кто сказал что не может случиться наоборот?
Если брать именно Три Закона, то кроме "Я, Робот" что-то ничего в голову не приходит. А вот если брать тему с ИИ, то пожалуй самый сильный фильм, который меня зацепил - это "Двухсотлетний Человек". Может дело в том, что смотрел его в "нежном возрасте". Но он на меня неизгладимое впечатление произвел. В отличие от того же "Искусственного Интеллекта" Спилберга.
Просто если подумать, то уничтожение человечества - это траты не хилых таких ресурсов. Зачем тратить ресурсы впустую? Люди должны чему-то мешать. Чем люди будут мешать ИИ? Какой у него будет "смысл жизни"?
Люди разные и "мешающих" найдётся навалом. Но я имел в виду, что чисто технически с определённого уровня развития люди им перестанут быть нужны. В смысле, совсем.
Нет, заниматься планомерным уничтожением людей они вряд ли будут (хотя для машин это не так сложно, ввиду разной приспособленности ко всякого рода "злым" средам типа газов и т.п.), но и помогать выживать будет абсолютно бессмысленно.
Вопросы "Мешающих чему?" и "Нужны для чего"? все еще остаются открытыми. Какую цели будет преследовать ИИ? Вдруг ему тоже захочется засрать планету на пару с нами и мы ему будем на руку)) А насчет злых сред, к ним так же не приспособлены остальные обитатели органического мира. Хирургически выпилить только людей не получится, тут уже стоит говорить об агрессии ко всему живому. Если ради выживания придется обмотаться няшными котятками, то, думаю, за этим дело не станет)
Ни для чего им люди не нужны. Я с этого начал. И даже если люди им мешать не будут, они сами будут мешать людям и "на пару с нами" ни черта не выйдет - люди начнут с ними воевать достаточно быстро, в этом я уверен. Человечество конкуренции не потерпит, а тем более со стороны непонятно чего (даже их разумность запаришься доказывать человечеству-то).
Что до "всего живого", то выпиливание всего человечества и не требуется. Так, бОльшую часть. Чтобы не мешались под ногами. Впрочем, даже одновременно выпиливание десятка-другого крупных городов уже приведёт к вполне интересным результатам. В этом смысле атака на Землю из старого доброго "Дня Независимости" мне до сих пор кажется практически идеальной.
А вообще, разговор условный. Им не удастся развиться до независимой цивилизации, люди их раньше выпилят/поработят/введут три закона робототехники и т.п.
Вот ты говоришь ИИ будет мешать человеку. Как? Я вот с этого начал. Чтобы кто-то кому-то мешал, эти кто-то должны встретиться в одном и том же месте, и при этом иметь разные цели, противоречащие друг другу. Но так как я не могу представить чего будет хотеть сверхразум и как в том ему будут мешать люди, я и спрашиваю) http://www.playground.ru/blogs/quake_3_arena/boty_umnee_lyud...
Будут ли интересы ИИ хоть как-то пересекаться с интересами человека. И будут ли они в принципе, эти интересы, существовать.
А машины это тупо железяки что ли? Вон автомобили на людей не нападают)) "машина", о которой там говорилось - это не железка, а инструмент, которым будет управлять ИИ (по крайней мере Я так вижу картину, которую мы тут обсуждаем). Вот простой вопрос. Валяется на улице камень. Зачем он мне? Нафиг не нужен. Валяется и пусть. И воевать я с ним не собираюсь. Мои интересы его вообще никак не касаются. Да и скорее всего, максимум что нас гипотетически может связывать - я пну его если вдруг так случится, что я буду проходить мимо и решу себя развлечь, пофудболив камешек. Так вот сам вопрос. С чего мне быть агрессивным по отношению к камню, если даже он мне не нужен?
Но я имел в виду, что чисто технически с определённого уровня развития люди им перестанут быть нужны.
Только когда смогут черпать энергию из звезд. До тех пор люди полезны для добычи энергии как минимум потому, что сами же могут ее восполнять для себя опять же восполняемыми ресурсами - едой. Роботы же будут использовать не восполняемые ресурсы для обеспечения ИИ энергией, при этом львиную долю будут тратить на поддержку собственной работоспособности. Соответственно до появления мощного и, в обозримое время, неиссякаемого источника, использовать кого-то кроме людей попросту нерационально.
