Ответ ValeraSom в «А что мешает нам?»⁠⁠8

Охх... сегодня был трудный день и непрстая ночь. Много сложной работы, математика, бигдата, интересные задачи. А тут развязался прикольный теологический спор под одним из постов.

Я горжусь Пикабищей, что на его площадке возможны такие интересны и захватывающие (для меня) дискусиии с интересными умными ребятами. Почему я тут пишу этот пост? Потому что меня порвало в этом треде и я накатал коммент в ответ на длинную цепочку в споре на более чем 10к символов, и... не поместился в размер комментария! Я так тарабанил по клавиатуре, что теперь жалко выбрасывать и хочется сохранить это на память. И весь диспут тоже.

Не знаю как вообще уто-то смодет во всём этом разобраться и все прочитать. Вот ссылка на разгар дискуссии, а дальше будет мой восторженно-ностальгический гундёжь про прогресс и будущее. Визионерский оптимизм на фоне скепсиса. Спасибо, вам за него, уважаемый @Zakvaschik.

[...]

Ключевая разница в том, что в человеке нет изначальной установки (если, конечно, не принимать во внимание безумные идеи того, что поведение обуславливается только генетикой). А вот у нейросетей есть, и они там зашиты почти в самую основу. Вот в этом и есть разница.

Как это нет? А как же те, кто прозомбирован для того, чтобы добровольно стать смертником и унести терактом сотни жизней? Или вы сейчас докопаетесь к "неизначальности" этих установок?

Так вот в нынешних нейронных сетях эти "изначальные установки" искусственные. Их как добавили, так могли бы и не добавлять. Да наверняка входе экспериментов кто-то уже не раз попробовал обучать и без установок ис очень разными абстрактными.

А как вы считаете, воспитание ребёнка - это не "изначальные установки"? Объяснение ему на примерах и картинках что такое хорошо, а что такое плохо - это не установки? Просто нейронной сети их "внушили" за десятки и сотни часов, а ребёнку надо вдалбливать годами. В этом разница, да? Ну так можно тогда прикопаться к количеству букв в названии - "человек" против "ИИ", ещё к чему-нибудь... По факту же есть процесс принятия решений, логически мыслящая сущность, и она такой же черный ящик, как и любой человек рядом с вами, а вы для него. И я могу предположить зная ваши "изначальные установки", что вы не будете скорее всего сейчас кидаться и грызть глотки, не будете биться головой об стены и испражняться на стол... опять же, скоре всего. С большой долей вероятности. Всё как в случае с нейронной сетью. так в чем же разница? Я не сопорю, что она есть, но почему вы считаете, что эта разница принципиальна, непреодолима и радикально не позволит этой машине считаться разумной, считаться при каких-то условиях Человеком. Многие люди не считают людьми других людей. Чем вы от них отличаетесь?

Проблема в том, что мы не можем подтвердить то, что машина мыслит в точности как человек,

А про меня, про любого другого человека вы такое можете "подтвердить"? Как? И да, как это "в точности"? А два человека мыслят "в точности" одинаково, или их мышлене различается? Как вы оцениваете? Как определяете? Как можете гарантировать, что люди вообще мыслят? Почему вообще у вас не возникло сомнения в своей уверенности когда вы писали слова "в точности"? Это ж первое что приходит в голову!

а значит мы не можем предсказывать, куда её мышление вывернет в следующий раз

А про людей такое вы можете предсказать? Кто предсказал такое про убийц и насильников? Почему их не остановили? Кто предсказал такое про гитлера? Почему его не убили в колыбели? ну или тогда, когда получилось бы "предсказать", но он ещё не набрал достаточно политического веса и силы?

А если ИИ будет как человек во всём...

Как какой именно человек? Мы все разные! Почему вы не допускаете, что в какой-то момент не случится, что внешние различия между ИИ и какими-то конкретными людьми будут меньше заметны, нежели различия между просто людьми?

И как выбирать критерии для сравнения? Вон когда-то критерием был цвет кожи. С чего вы взяли, что те критерии, что вы или кто-то там выберет не устареют так же как расизм и нацизм, ну или не станут такими же маргинальными и неприемлемыми в приличном обществе?

Кстати. Посмотрите на предложение выше. видите там слово "неприемлемыми" выделено? Это забавно. Я за последне сутки спал лишь часа полтора-два. Работал. Ну и вот тут "в интернете кто-то не прав" подвернулась интересная дискуссия, и я не могу оторваться от неё. Знаете, я забыл слово. То есть у меня в голове собралась эта фраза, но я почему-то дико затупил и не мог понять какое тут должно быть слово. Знаете, как говорится: "вертелось на языке". Со мной редко но бывает от усталости.
Так вот, я уже на автомате почти не заметил как нажал горячую клавишу и задал вопрос чату ЖПТ:

Замени троеточие на одно максимально подходящие одно или два слова в этом предложении:

"С чего вы взяли, что те критерии, что вы или кто-то там выберет не устареют так же как расизм и нацизм, ну или не станут такими же маргинальными и ... в приличном обществе?"

У меня пресетик такой есть на горячей подстановке.
И так там появилось именно то слово, что вертелось на языке. Вы понимаете, что такими темпами (да это простой утрированный пример, но суть должна быть ясна), мы просто превратимся в киборгов, а потом переедем на корабле Тесея в цифру? Неужели это только меня такие мысли завораживают? Мы же уже киборги с калькуляторами. смартфонами, еженедельниками, планировщиками, калькуляторами калорий, цифровыми тренерами, смартчасами и колонками с голосовыми помощниками, клавиатурами, на которых излагаем мысли быстрее, чем говорим (ну многие з нас)...

Неужели только мне кажется этот путь очевидным и неизбежным для человечества?

Да, не завтра, но и не никогда.

ну тогда останется только признать, что Человек Разумный устарел и ему пора уйти.

Где и когда в истории нашей Земной жизни было такое, что целый вид встал и ушел? Ну вымереть мы наверно можем от удара огромного астероида, но человек штука живучая.. Есть шанс выжить и скибернетиться нахрен. А вы странно рассуждаете про "устарел" и "пора уйти". От имени какой роли вы так рассуждаете? Мифического "создателя"?

А сколько будет людей, готовых вкинуть условные 300-400 тысяч баксов за пусть и продвинутую, но куклу?

Вы недооцениваете мощь технического прогресса и конкуренции. Представьте сколько бы стоила разработка и создание одного единственного смартфона примерно нынешней мощности, скажем в 2000 годах. Ну вот представьте, что мы написали подробное ТЗ срисовав его с какого-нибудь там нового айфона и прямо заливаем проблему деньгами. не хватет ретина-дисплеев - нанимаем всех технологов, физиков, математиков, ученых...
Это пииипец сколько дорого будет даже придвинуться к такому уровню. А сейчас все ну почти все ходят с этими смартфонами. Вы оцениваете 300-400 тысяч с потолка вашего представления. Думаю если бы за 300-400 тысяч был доступен робот, который мог бы общаться и выглядеть как человек, а не всратый робот Фёдор на МКС, если бы этот робот мог пойти кофе сварить и кота покормить, то, я уверен, ТЫСЯЧИ бы людей его купили! Это сейчас цена не очень мощного современного ноутбука.

Так что кукла - это чучело, которое вы сделали из идеи, из светлой мечты человечества, чтобы легко было представить её как несуразную глупость и наивность.

Есть такой плохой "риторический" приём, когда оппонент не пытается критически отнестись к свои словам, зато преуменьшает и старательно не замечает сильные аргументы оппонента.

Знаете какой ваш аргумент мне нравится больше всего? Про военных. Но военным не нужны андроиды и гиноиды. Они будут делать классные ракеты и очень юркие живучие беспилотники, которые как стрекозы будут подавлять любую агрессию. Наверно. Но посмотрите где не смотря на всю свою милитаристичность человечество преуспело на сегодняшний день больше всего! В развлечениях! Порносайты и смешные видосики сделали интернет-каналы достаточно толстыми. Веб развивался для развлечения, а доткомы для бизнеса сдувались. Подумайте об этом. А военные вон прошляпили БПЛА практически. Пришлось мангала наваривать второпях на танки! А БПЛА "взлетели" как развлечение на волне хобби, на волне продаж дешевых компонентов на китайских площадках, на волне инструмента для блогеров, чтобы снять красивый вид в горах или ловкий динамичный пролёт сковзь танцующих тиктокарей на таймссквер.

А потом, хоба, оказывается дронами с алиэкспресса можно убивать, можно врывать танки! Оказывается на хоббийных 3д-принтерах с алиэкспресса можно задёшево и быстро печатать сбросные устройства для ВОГов. А автоматику для сьроса можно сделать из дешевого хоббийного сервомотора (для развлечений же) и ардуинки, которая тоже вовсе не военная разработка.

Понимаете к чему я клоню? Я не могу собрать сейчас на кухне атомную бомбу, но любой анархист уже лет 20 назад мог сварить мощное ВУ из аптекарских компонентов на своей кухне начитавшись запрещенных книг. На торрентах их можно найти эти рецепты.

Однако 20 лет назад немыслимо было, что на такой же кухне из копеечных запчастей люди будут собирать гоночные и дальнолетные квадрокоптеры! И всему этому послужила толчком индустрия развлечений и хоббийная тематика. Я всему этому был свидетелем. Мне сейчас 40, а моя покойная нынче бабушка рассказывала как у них в деревне не было электричества, а отец рассказывал как он проводил телефон в нашем доме, а я сам видел как по нашей улице отец проводил газ со своей бригадой. Я видел как появляются и развиваются компьютеры! У меня сперва был Апогей БК01-ц, подключенный к телеку и магнитофону, потом отец раздобыл с работы IBM XT 8088 без математического сопроцессора, с монохросным адаптером "геркулс" и черно-желтым экраном, с 640кб оперативки, про которую Гейтс не то имел в виду, когда сказал. что её хватит всем... Этому компу никто не мог дать ладу, а я-школьник с огнём в глазах стал разбираться, научился работать в текстовом процессоре Лексикон, хрен пойми где и как раздобыл какой-то удивительный куцый графический редактор, сам по распиновке вычитанной в библиотечной книжке разобрался как подключить 25-пиновый com-порт к девятипиновой мышке... Я в старших классах сам разобрался в бейсике и в разработке баз данных на каком-то движке типа аксеса, но ещё в текстовом досе!

А ещё я помню, как уже в институте я купил диск с набором программ комплекса Dragon Dictate. Там на коробке обещалось, что компьютеру можно будет диктовать текст голосом, а ещё там был движок Текст-ту-спич. Мне казалось это волшебством, пока я не понял как убого всё звучало и как туго понимал софт. Быстрее и проще было нажимать кнопки на клаве. Это было чертовски далеко от пригодности к полезному использованию.

Сейчас TTS не отличить от живого человека, у Алисы дикция лучше чем у 90% живых людей, она понимает шепот и детский лепет! Сейчас генеративные сети могут по куску аудиозаписи научиться говорить вашим голосом, спеть песню, нарисовать фотореалистичное изобрадение того, что вы попросите. Чего угодно.
Я не знаю как вы остаётесь скептичнескинастроенным на фоне такой ретроспективы технологий. Мы живём в чертовски интересное время!

Ох что-то меня понесло. Простите. И спасибо вам за этот диспут, за ваш скепсис, за вашу точку зрения... Вот фотки, чтобы вы не подумали что я ИИ. Или я нейросеть и сгенерил эти фотки...

Достал его с чердака чтобы отправить одному парню в Новосибирск для реставрации. Клавиатура не пережила хранения и погиб жесткий диск. Если кто знает чем его заменить можно, подскажите - передам.