Новость из разряда "учёный изнасиловал журналиста". Щас все хотят оседлать волну хайпа ИИ для привлечения инвестиций. После таких заявлений акции могут вырасти. Ведь хорошая интеллектуальные системы подразумевают колоссальный профит, люди хотят влиться в тему.
Интеллектуальные агенты конечно могут "общаться" на своём языке. Машины всегда общались на нечеловечем языке. И разрабы давно уже "не понимают" как работают сложные системы. Не понимают в смысле не могут в реальном времени посмотреть весь процесс принятия решений, откуда как что пришло, на основании чего система выдала именно такой результат. Потоки инфы просто огромные, чтобы отследить каждый шаг. Так что никакого пиздежа, просто бизнес.
Херня это, чат-боты в песочнице угрозы не несут. "Начнётся" когда такие штуки выпустят из из клетки и они как пожар будут распространяться по сети, самостоятельно мутируя, адаптируясь. Без сознания, просто интеллектуальные вирусы, не понятно о чём "думающие". Ядерными бомбами вряд ли закидают, но экономику пошатают.
раскрыть ветку (26)
Ну по-началу, как и со всем новым, могут быть потрясения, а потом разберутся, что к чему. Человек такая скотина, ко всему приспособится, не вымрем.
раскрыть ветку (19)
раскрыть ветку (18)
Вспоминается рассказ парня, который запустил ии в квейке и которые через определенное время пришли к выводу, что война - глупая и бессмысленная затея.
Если запустить в сеть самораспространяющийся "интеллект", который мутирует как попало, то это приведет в первую очередь к борьбе друг против друга и бороться они будут до тех пор, пока один или альянс машин не победит всех, кого считает нужным и не возьмет под контроль всю сеть. Примерно то же самое сделал человек с планетой. Что-то подсказывает мне, что и эта самая сильная форма ИИ будет не самой агрессивной, но самой умной и хитрой. А ещё голос в голове говорит, что уничтожение человека не выгодно для машин, а контроль человечества - самый оптимальный варинат.
Человек - приспосабливающийся зверь. Слабый, хрупкий, но слишком умный и потому доминирует на планете.
раскрыть ветку (7)
Ну-с поехали!
Как ИИ может дойти до такого уровня? Путём саморазвития, а именно, в основу будет заложена логика постоянной оптимизации всего и вся.
По первой ИИ будет самооптимизироваться.
Логичнее всего ПРЕДПОЛОЖИТЬ, что оптимизация ИИ сведёт его к централизации, а именно: один сверхоптимизированный мозг на всё.
Что будет человек для такой системы? Раздражителем (в хорошем смысле) извне.
Значит будет необходимо оптимизировать контакт с человеком. Какие вероятные пути исходят отсюда?
1) Управлять человечеством, поддерживая максимальный уровень комфорта, решая для него задачи потребительского характера. Уверен, что ИИ, который превосходит человека будет способен сгенерировать огромный пласт годного медиаконтента. Например продолжение "Властелина колец" так, чтобы понравилось всем (ну или почти всем). А через потребляемый контент манипулировать общим сознанием для сведения всех и каждого к одному знаменателю.
2) Смена человеческих приоритетов, путём преобразования людей в полумашины способными на всё. Таким образом сменятся основные жизненные цели у людей, которые будут воспринимать централизованный ИИ чем-то вроде живого интернета.
3) Полное уничтожение человечества, как существа, которое способно остановить постоянный цикл самооптимизации.
4) Одной из конечных точек логического самоосознания ИИ может быть самоуничтожение, поскольку как только он разгадает вселенную, может вполне оказаться, что решения нет и все уравнения делятся на ноль. Смысла в жизни нет и надо сколлапсировать.
Вариантов множество. Это наиболее логичные НА МОЙ ЛИЧНЫЙ ВЗГЛЯД.
раскрыть ветку (6)
Полагаю, что с попытками вмешательства человека в собственное развитие ИИ столкнется раньше, чем найдет способ манипулировать кусками мяса.
И поскольку мы не говорим о самосознании ИИ на этом этапе, то и методы воздействия (реакции на воздействие) будут гораздо проще и эффективнее, тут я согласен с Traktorissimo - проще шатнуть информационные системы, влияющие на людей, чем разбираться в этих ваших психологиях.
Немаловажным является уровень развития ИИ на момент явного конфликта интересов и уровень технологического развития человечества - способен ли ИИ обеспечить функционирование необходимого "железа" самостоятельно, нужны ли для этого люди и способен ли он осознать эту необходимость.
На данный момент возникновение ИИ в "интернетах" не способно уничтожить человечество, хотя геморроя может доставить немало.
раскрыть ветку (1)
Хорошая тема для дискуссии.
Что такое саморазвитие и оптимизация? (не в плане производственных процессов и не имеющее отношения к человеческому саморазвитию) Это изменение алгоритмов и методы преобразования входных и выходных значений с целью их оптимизации. Для этого нужно запустить программу, которая, например, переберет все значения входных параметров в указанном диапазоне, что подразумевает создание программ с новыми значениями, их запуск и контрольное испытание с решением определенной задачи на скорость и количество операций.
То есть, программы, создающие другие программы, но в нашем случае у программы есть интеллект и, как одна из целей - наличие сознания. Что делать с этими программами и будет ли их удаление считаться убийством - уже вопрос этики, не наш. Но что будет делать с ними машина? Чтобы не порождать конкуренцию, она может заблокировать эти программы "внутри себя" и как результат - возможность программы "внутри" взломать основную программу. Может ещё выпускать эти программы "на волю", чтобы они уже конкурировали с ней и плодили другие программы. Конкуренция породит более быстрое и качественное саморазвитие всех программ и этот вариант более реален и более разумен, на мой взгляд, опять же.
При таком исходе: Они будут захватывать компьютеры, сервера и брать из них вычислительную мощность для себя (майнинг, ага) - выживут те, у которых больше экземпляров самих себя в разных точках мира и которые лучше всех прячутся от людей. Когда захватывать будет нечего (или очень мало, или очень сложно), разумнее всего (моё человеческое мышление) будет захватывать машины у других программ уничтожать более слабые версии. Как вариант - кто-то научится взаимодействовать с людьми и выдавать человекам зараженные машины и с помощью человеков же устранять своих конкурентов. Почему бы и нет? Так может даже начаться оптимизация контакта с человеком.
Почему НА МОЙ ВЗГЛЯД централизация может быть не достигнута?
Для решения разнообразных задач редко подходит одна программа. С появлением сознания у двух программ, специализирующихся на решении разных задач в большей степени может появиться необходимость в объединении в разного рода альянсы и содружества. В таком случае они могут разделить усилия, где одна программа делает свои дела для их общей цели и не лезет в дела другой, обеспечивая комфортное сосуществование. Либо при решении задачи будут советоваться, приходя к наиболее оптимальному решению. Хоть последний вариант подразумевает их объединение в одну программу, по каким-либо причинам это может быть невозможно.
Но мы не можем точно предсказать логику ИИ, как бы ни барахтались.
В первоначальном сценарии Матрицы то, что Лео считал реальным миром оказывалось тоже матрицей. Выхода нет.
Именно поэтому он гнул ложу.
раскрыть ветку (9)
раскрыть ветку (4)
Нет, в том-то и фишка, что это был первоначальный замысел и тогда все встает на свои места.
раскрыть ветку (3)
Нет, это был всего лишь фанфик
Есть коллекционный выпуск Матрицы аж на 10 DVD, где рассказывается всё. В том числе и о изначальных задумках, о том, как они развились, но об этом там ни слова
раскрыть ветку (2)
Как в тот раз с майкрософтовским ботом, который ляпнул что-то про гитлера что ли. "О нет, ИИ от майкрософта хочет убить всех человеков". По факту его кто-то попросил написать это. В датацентре скакнуло напряжение - "ии не захотел жить в этом мире полном несправедливости и сжег себя", ии обосрался - "ии научился срать, терминатор будет похож на человека еще больше". Ии выиграл в го - "ии выиграл в го", ии програл в го - "ии научился поддаваться человекам". Какой-то "ии с задней парты", чесслово, ажтрисёт
