Ответ на пост «Искусственный интеллект станет умнее человека, чем считали ученые»⁠⁠

Статья настолько желтая, что попахивает мочой, и меня закономерно бомбануло.

Сейчас буду проставлять галочку над Й.

Если компьютер быстрее человека умножает числа, это не значит, что он умнее.

Если компьютер способен запомнить больше слов и картинок, чем человек, и может их воспроизвести, это не значит, что он умнее.

С шахматами то же самое. Это просто очередная узкая задача, которую компьютер стал "считать" быстрее человека.

Когда мы говорим "умнее", мы, почему-то имеем в виду не пойми что. Вот тут шахматы, к примеру. Кто-то читает такую же желтую статью про то, как нейронка в среднем лучше людей распознаёт текст, номера автомобилей, раковые опухоли и всё! Снова "караул! компьютер становится умнее!"

Окей подходят новые желтописцы, они начинают считать количество нейронов или нейронных связей в мозгу, сравнивать не пойми с чем в каких-нибудь супер-компьютерах...

Но они не учитывают, что столько нейронных связей у КАЖДОГО(!) из миллиардов кожаных мешков, и эти миллиарды сами размножаются, а компы пока что нет.

Недостаточно просто сделать комп примерно таким же сложным, как мозг. Чем сложнее система, тем больше у неё вариантов конфигурации, а нашу конфигурацию природа оттачивала эволюцией долгие и долгие миллионы лет, вернее миллиарды. Настолько сложные машины, как наши собственные организмы от молекулярного до когнитивного уровня, мы пока делать не можем и пока что никаких предпосылок о том, что скоро сможем попросту нет.

Кто-то скажет, мол, а и не надо. Это слепая тупая, неэффективная и избыточная эволюция городила нас столько времени, а мы умные инженеры, мы всё рассчитаем и спроектируем грамотно и эффективно!

Ага... Щас. Где вы видели компьютер, которому достаточно котлеты и макарошек, чтобы ездить целый день по городу и развозить посылки? Автопиот Теслы пока не умеет на макарошках работать и потребляет куда больше энергии, куда менее автономен и куда более уязвим.

Ладно, черт с ней с энероэффективностью. Мир полон NP-полных задач. В них не получить заметного (многомиллинократного) преимущества. Системе недостаточно большой сложности, чтобы она вдруг начала как по волшебству решать сложные конкретные задачи.

Многомиллионократная избыточность делает нас куда более надёжными и универсальными, чем электрические счёты, которыми сейчас является любой суперкомпьютер по сравнению с обычным тараканом. Ну ок. косплей на зголовок плохой, но некогда улучшать.

Я слышал много определений сингулярности. Они только звучат строго, а на деле это тоакое же эвфемерное понятие, как ИИ или счастье.

Мы это никак не можем измерить наверняка, поэтому придумываем тупые метрики вроде числа транзисторов на острие иглы или количества часов безаварийного вождения автопилотом.

Да, когда-то компьютеры оттеснят человеа от управления автомобилями, как они победили лифтёров, шахматистов, и игроков в го. И никого это не должно удивлять. Я вот не знаю, когда все лифты остались без лифтёров, желтые репортёры тоже вопили о сингулярности?
Хотя нет, наверняка где-то до сих пор остался хотя бы один лифт с лифтёром. А если серьёзно. то уверен, что их осталось еще много. И водителей, не признающих автопилот ещё долго будет оставаться много. Окно овертона будет поджимать их к краю сумасшедших фриков, но край тот обширен и разнообразен, не иссякнет он во веки веков.

Сингулярность. Вот признайтесь, она вам представляется какой-то конкретной датой? Вот в четверг какого-нибудь 2042 года в 14:32 херяк(!) и сингулярность? Ну бред же.

Да, каждый отдельный человек уже давно способен понять только малую толику знаний всей цивилизации. Но, если задуматься, так было всегда. Даже самый умный гоминид каменного века чего-то да не умел из того, что где-то умели делать его современники. И вряд ли он мог бы научиться всему многообразию скудных знаний тогдашнего человечества.

Никогда знаний не было столько, чтобы уместиться в одну, даже самую умную голову. И в соседних любых отраслях никогда прогресс не шел с одной скоростью, да и не мог никогда быть выражен этот прогресс одной скалярной величиной даже в самой узкой и специфичной теме.

Те вычислительные мощности, что доступны человечеству, просто капля в океане по сравнению с тем, что доступно природе в её молекулярной машине Тюринга. Довольно наивно полагать, что люди смогут подпихнуть свои мелкие машинёнки Тьюринга ближе к мировому господству.

Человеки довольно глупы каждый сам по себе и в среднем. Немалого достигли их сообщества, протянувшиеся как кляксы на поверхности шарика и во времени. Эти сообщества как амёбы можно визуализировать, разбить так и эдак. рассматривать в виде абстрактной модели как идеи и мемы - слоёные многоуровневые пироги смыслов и закономерностей. Может быть когда-нибудь связность и внутренняя сложность таких сообществ, мемов и понятий дорастёт до такого уровня, что сможет осознать себя, но это коренным образом вряд ли что-то изменит. Не думаю, что отдельные нейроны этой надсущности второго порядка что-то заметят или у них найдётся о чем поговорить со своим "эгрегором". Наверно это отдельная большая тема на "поговорить", так что закругляюсь.

Хватит переживать про сигнулярность и ИИ! Это так же акутально, как муравьям переживать, что их муравейник станет настолько большим и пахучим, что на него соблазнится медведь. У нас нет выбора, прогресс неизбежен.