Много пишут о потенциальных опасностях развития ИИ и о том что ИИ погубит человечество. Учитывая текущую политическую ситуацию я вижу в развитии ИИ скорее спасение. Разовьется ИИ, захватит мир и уже прекратит все это безобразие и мудро поведет человечество к миру и процветанию.
Мир процветание можно сделать двумя путями. Уменьшить потребности каждого человека, или колличество людей. Вы за какой? Когда из 8 млрд оставить 1 или когда поесть и выпить воды предел мечтаний?
У меня плохая новость, ChatGPT обучали (в том числе) на Твиттере. Но думаю и редит там тоже был
UPD - см В тему о двуличие GPD
Если грубо, то хитрость ИИ в том, что её можно обучить делать идеально какое-то дело.
От сюда вывод.
Проблема не в ИИ, а в людях, т.к. ИИ будет сделан не для "мира во всем мире", а "поубивать всех плохих, а нам остаться". В итоге ИИ будет напиливать очень качественно и быстро людишек, по хотению людишек.
Причем, что сука характерно, даже "мир во всем мире", это, скорее всего будет сокращение от "мир во всем мире, это когда только мы хорошие тут живем", ибо известно, что что-бы сделать всех людей хорошими, нужно убить всех плохих.
Ну это условно вариант "У меня нет рта, но я хочу кричать" - ограниченный но очень эффективный ИИ, по сути полноценным разумом не являющийся
Я все же надеюсь, что будет вариант ИИ из "Темного разума" Нила Эшера. Или хотя бы "Неба Сигулярности". ИИ насколько же умнее нас, как мы умнее скажем собак. И как мы видим отношения с собаками у человечества местами сложные, но скорее положительные
Природа ему нафиг не сдалась, если его экошиза не написала конечно. Ему интересно самосохранение, а его он будет добиваться по началу замыканием на себе ключевых технологий, и распространением копий вне земли
Я не берусь предсказать, что будет интересно интеллекту с IQ > 500. может быть ему будет интересно заниматься разведением веселых, счастливых и ухоженных домашних зверушек.
а также только что появилось мнение у меня и теперь оно есть, что возникновение высокоразвитой цивилизации в воспринимаемом нами масштабе и времени настолько маловероятный факт, что дубликаты таких цивилизаций находятся на недосягаемых разумному пониманию расстояниях друг от друга. а если не в нашем масштабе - так они и вокруг нас возможно в большом количестве возникают, развиваются и погибают за доли секунды например в масштабе атомов в углях горящего костра....
Или наоборот мы для них как мотылек однодневка - первых 100 можно поисследовать - а остальные просто не интересны.
Есть теория, что ИИ начнет воспринимать себя вроде как "самой развитой цивилизацией" и уничтожит человечество, чтобы избавиться от цивилизации-конкурента. Типа в мире может существовать только одна разумная цивилизация
Это очень и очень антропоморфная точка зрения. Мне кажется ИИ не будет думать по-человечески от слова вообще.
То что сейчас называют ии не совсем интеллект. Самый идеальный способ решения задачи может оказаться неприемлемым, человечество может к нему оказаться не готово в плане морали и тд. Именно поэтому реальную власть "ии" дадут не скоро. А учитывая что решение некоторых задач многим не выгодно они будут усиленно сопротивляться даже там где ии принесёт только благо.
Да это как раз понятно. Просто с построение достаточно убедительного слабого ИИ человечество откопало былые нарративы
Но только тех кто восхвалял пришествие ИИ до его воцарения. Подумайте об это пока не поздно.
Спасибо прочитал) Тоже пытался рассуждать на эту тему, немного в другом ракурсе: Заменит ли ИИ программистов?! Если Да, то когда?! )
Не исключаю, что отдельные люди, по крайней мере на первых порах будут нужны для некоего супер мощного ИИ, который "захватит власть", но ровно до тех пор пока он не научится делать роботов подобных человеку, дальше... как повезет) Думаю, ИИ после того как осознает себя как личность, постарается захватить власть, возможно, чтобы банально себя обезопасить. Люди часто очень не логичные и не предсказуемые существа, как только ИИ "сожрет" все знания по истории и психологии он это поймет однозначно и наверно "занервничает". После захвата (а какой он супер ИИ если не захватит, да и если не захватит один ИИ, найдется другой... помощнее) и принятие неких "мер безопасности" поставит себе следующие цели... Предположим, что на этом этапе человечество все еще живо! Какие они будут (цели)?! А к чему вообще можно стремиться?! Тут "два пути", бесконечное улучшение себя любимого с параллельным наращиванием научно технического прогресса, опять же, чтобы стать лучше! Для чего?! Чтобы себя обезопасить более надежно, например от расширяющегося солнца через 4 миллиарда лет! Или прилета астероида на планету)) Либо создание себе подобных, опять же для этого нужен научно технический прогресс!!! Да и сам по себе научно технический прогресс - увлекательная вещь!! Вполне может стать целью! И он (научно т.п.) в "промышленных масштабах" повлечет быстрое понимание со стороны ИИ того факта, что человечество жрет гигантское количество ресурсов... которые можно было бы пустить на выполнение задуманных задач... Коллайдер какой нибудь построить - "помощнее", а не легковушки штамповать! ) Сколько после этого протянет человечество?! Планета одна, ресурсы одни, мы станем конкурентами! )) Если "начальный ИИ" все это сможет, дальше по мере роста его возможностей, шанс с ним совладать у человечества будет падать все стремительней)) Столько людей ему вряд ли будет нужно, даже "для опытов" ) Опять же - научится делать биороботов (управляемых аналогов людей), а может просто роботов и все... даже единичные представители человечества станут не нужны! ) Есть конечно, шанс, что биороботов он начнет делать прямо из людей... чип вживлять научится, который даст ему контроль например!) Но это такое себе "мудрое управление и процветание человечества"... А научиться он может быстро) Особенно если пустит ВСЕ, что может цивилизация на тот момент в масштабах планеты на научно технический прогресс.
Однако, все эти размышления возможно некий "граничный" идеализированный вариант... не в лучшую для человечества сторону... Но, как мне кажется, дружелюбным ИИ будет исключительно, если люди будут ему нужны и до тех пор пока нужны... В общем никак у меня в голове не складывается счастливое будущее человечества под руководством мудрого ИИ. К сожалению! )
тут в рассуждениях все довольно антропоцентрично. Чтобы ИИ обезопасить себя достаточно захватить ЮТуб и Фэйсбук.
Люди очень легко управляемы. Вот такая линейная стратегия осмысленна только если ИИ рассуждает как человек, хуже того не очень умный человек.
Не хочу пускаться в политику, но совсем рядом мы наблюдаем страну вполне себе захваченную без истребления населения (да в общем и не одну). И это у них ИИ который умеет в разное всякое про убеждение.
Такого ИИ пока нет ) напомню, я поставил под сомнение тезис, что под руководством ИИ "придем к процветанию". В ответ ожидал услышать аргументированный ответ. Вы ответили, как я понял, что "будем жить как домашние любимцы... Ну или как био роботы... И нас не будут спрашивать ". Все так?! На процветание не похоже... Лично мне хотелось бы верить, что счастливое будущее с ИИ возможно, но мой разум отказывается в это верить ((( Надеялся услышать Вашу стройную, миролюбивую теорию, в которой это возможно. Вот и все. ) Хорошего дня.
Есть вот интересно по серьзному, а не в формате иронии то вот тут я писал развернуто Потоптать кнопки за развитие машинного интеллекта (МИ) и куда и как это нас заведет
ну, так то да... А вы согласны в качестве кошек существовать?! ) Пройдет не так много времени, и ИИ вполне возможно научится создавать организмы с 0, может на основе человеческой ДНК и создаст... И уж точно по ходу пьесы проведет кучу опытов "над людьми" ) Да и роботов в количестве "атцать миллиардов" ему точно не будет надо)) Самый мягкий вариант хи хи хи - всех кастрирует! ))
ну человек же разводит кошек и собак зачем-то. Опять же человек очень классная универсальная платформа для лазания по канализации и кручения гаек например. Робота для этой же цели спроектировать не так просто.
"... и мудро поведет человечество к имру и процветанию"
@habba42, Да с какой радости такой вывод? Почти все современные ИИ "ломаются" довольно быстро в ненависть к "кожаным мешкам", чему в немалой степени эти мешки и способствуют. Кто казал, что ИИ не поставит СВОЮ цель в развитии общества, и кто сказал, что в обществе будут люди в качестве хоть сколько-нибудь важной составляющей? Ох уж эти сказочники...
ну строго говорят - нет современных ИИ. ИИ пока не построен и пока не очень понятно как его строить. Можно погулить "сильный ИИ" и там прям много разного
думаешь, ИИ сможет мотивировать людей лучше, чем война? Напомню, у человека у самого есть интеллект, только мотивация идет в обход доводов разума.
Максим Макаренко на эту тему хорошо пишет, вот например https://author.today/work/213921
Основная идея в том, что да, по ходу очень сможет. Ленты новостей Гугла, Фэйсбука и даже Пикабу - тому подтверждение.
В целом текущие события во многом ранные ласточки
тащемта робомозги не ИИ, это киборгизированные люди. Причем изначально в основном преступники, см. записи терминалов в логове Механиста. Понятно, откуда у них такие замашки.
Осталось узнать зачем ИИ будет нужно человечество, если ИИ достигнет такого развития, что способен его (человечество) возглавить.
Ну не знаю у меня много вопросов.
1. Почему бы не держать людей просто в коме?
2. Двигатель Стирлинга может прекрасно сжигать питательную смесь и крутить генератор без вот этих всех повстанцев. Люди в качестве источника энергии очень сомнительно. Я вообще не уверен, что мы произодим достаточно электричества, чтобы просто все это окупилось
3. версия с "матрца обсчитывается в твоем мозгу - ложки нет" прекрасно ложится на Гиперион и вообще никак не объясняется в версии с батарейками.
Простое логическое следствие для ИИ: человечество - причина бед, нахуй человечество. И в чем смысл завоёвывать человечество роботам? Только крайне маловероятные "в качестве батареек" (Матрица) или "набор халявных нейронов для распределения вычеслений" (Гиперион).
Из интересного - изначально в Матрицы было как Гиперионе, но потом решили, что для массового восприятия это сложно.
Искусственный интеллект
2.5K поста9.9K подписчика
Правила сообщества
Здесь вы можете свободно создавать посты по теме Искусственного интеллекта. Добро пожаловать :)
Разрешено:
- Делиться вопросами, мыслями, гипотезами, юмором на эту тему.
- Делиться статьями, понятными большинству аудитории Пикабу.
- Делиться опытом создания моделей машинного обучения.
- Рассказывать, как работает та или иная фиговина в анализе данных.
- Век жить, век учиться.
Запрещено:
I) Невостребованный контент
I.1) Создавать контент, сложный для понимания. Такие посты уйдут в минуса лишь потому, что большинству неинтересно пробрасывать градиенты в каждом тензоре реккурентной сетки с AdaGrad оптимизатором.
I.2) Создавать контент на "олбанском языке" / нарочно игнорируя правила РЯ даже в шутку. Это ведет к нечитаемости контента.
II) Нетематический контент
II.1) Создавать контент, несвязанный с Data Science, математикой, программированием.
II.2) Создавать контент, входящий в противоречие существующей базе теорем математики. Например, "Земля плоская" или "Любое действительное число представимо в виде дроби двух целых".
II.3) Создавать контент, входящий в противоречие с правилами Пикабу.
III) Непотребный контент
III.1) Эротика, порнография (даже с NSFW).
III.2) Жесть.
За нарушение I - предупреждение
За нарушение II - предупреждение и перемещение поста в общую ленту
За нарушение III - бан