Ответ на пост «Как жить-то дальше»⁠⁠1

Не знаю есть ли смысл душнить тут вам про Гёделя и его (нашу) фундаментальную неполноту...

Но что такое "персональный опыт"? Не тавтологическое ли это определение, если мы пытаемся определить личность? Персона, личность, индивидуум, сознание...

Расхождения в интерпретации - тоже штука интересная. Особенно если в динамике смотреть. Я вот в ретроспективе анализирую своё понимание происходящего, своё понимание мира, ценности... Вроде бы никаких резких скачков и изменений, но, с другой стороны, я 10, 20, 30 лет назад и я сейчас - это пипец очень разные люди с во многом разными взглядами на жизнь, а уж с интерпретациями сколько метаморфоз случалось, так и не счесть! Как провести границы? Единственным ли способом это можно сделать? Кажется, что нет. И вот широкий диапазон взглядов на всё даже тут под постом на пикабу как бы намекает, что моя внутренняя широта взглядов на эту широту не налезет при всём желании. Наивно полагать, что есть какие-то универсалии, истины и вечные стандарты.

Сразу видно - ИИ писал.

Тут ты в лужу сел и пёрднул.

Никакой ИИ это не писал. Если ты не представляешь себе как написать связно несколько абзацев, это не значит, что все такие же немощные.

ЗЫ: а насчёт мягкого знака - спроси этот грёбаный Т9, который на современных телефонах отключить нельзя.

Да ладно, я же так и предположил, что это опечатка. Не бери в голову.

Конечно! А за людьми не надо? Людям можно верить безоговорочно? Люди никогда не ошибаются, не обманывают. Не вводят в заблуждение сознательно или по простоте душевной?

ИИ как концепция - это новый слой в нашей ноосфере. Я предпочитаю различать термины "ИИ" и "ИскИн". ИИ - это абстрактное понятие - интеллект. Искусственный, если построен на искусственной базе, естественный, если построен на биологической базе.

ИскИн - это субъект с искусственным интеллектом. Сущность, проявляющая признаки самосознания, имеющая механизмы мотивации.

То же самое, кстати, с интернетом и, условно, гуглом. Вот, казалось бы, инструмент. Теперь в глобальном банке знаний человечества каждый может найти любую информацию. Ага. Только дураки там находят для себя подтверждения, что земля плоская, ищут там гороскопы, курсы тарологии, гомеопатии и прочего. Интернет и гугл не панацея. То же и с ИИ. Если безоговорочно и слепо верить всему, что выдал гугл, быть беде. Если такж е верить википедии - определённо когда-то будет неприятный сюрприз.

Верить авторитетам, каким-то людям, вождям, политикам, гитлеру - в какой-то момент есть шанс осознать себя солдатом, который за правое дело наматывает кишки младенца на штык.

Серьезно? Ты тоже считаешь, что загрузив что-то в ИИ и получив что-то в ответ - это творчество?

А что, по-вашему, творчество? Что такое искусство? У вас есть какие-то четкие границы этих понятий?

Если в ходе ваших вопросов к нейронке или в ходе каких-то других действий получается что-то новое, чего не было в нашей ноосфере, и что пользуется спросом, интересом, то это вполне себе творчество. Почему нет?

И правда - а на какой пенис учится, стараться, делать -

тут я вашего вопроса не понял. Если вы про мотивацию, то тут беда. И она с ИИ никак не связана. Если вы, например, не пожелали освоить в школе простое правило про -ться\-тся, то кто вам это желание привьёт извне? Если не пожелали в достаточном количестве читать, чтобы получить хотя бы начитанную грамотность, то тут тоже ничего не поделаешь. Это ваш путь. Но сдаётся мне вы читали, просто опечатались.

А мы будем, как ашиклеки, у Булычева.

Вы утрируете и лезете в бутылку. Вас не смущает, что люди уже не могут как раньше жить в дикой природе без своих "костылей" цивилизации. Люди в эволюционной гонке уже утратили часть объёма головного мозга, который требовался для выживания в сложной дикой среде.

Теперь жить сильно легче, а мы - тугосери - теперь не можем обходиться без одежды, антибиотиков, промышленности, сложных производственных цепочек, сельского хозяйства, письменности, речи... Что ж вы на все эти блага цивилизации не набрасываетесь с таким же остервенением и страхом?

ИИ - очередной инструмент, и человеческая цивилизация встроит его в себя как встроила письменность, интернет, науку...

Пришло время автоматизировать решение рутинных когнитивных задач. Но что в этом объективно плохого?

Мы по привычке брюзжим по стариковски, мол молодёжь наша уже считать устно не умеет, логарифмической линейкой пользоваться не умеет, память ни к черту тиктоками забита вся... ага. А всё эти калькуляторы, компуктеры виноваты. Но там другая волна стариков наслаивается. Брюзжит, что молодёжь нынче ни винду переустановить не способна, ни диск дефрагментировать и на разделы разбить, ни биос перепрошить... Это всё ерунда. Всегда были те, кто не мог, и те кто могут. Вопрос в том, нужны ли те или иные навыки?

Нужно вот сейчас иметь калиграфический почерк? Нужно уметь писать конспекты красиво и разборчиво? Или можно уже просто набирать на ходу со слов профессора на кафедре? Или уже и это не надо, можно взять готовые материалы в цифре, а чего нет - прогнать через нейронку с голоса и получить конспект с картинками?

Или вовсе, может быть, скоро поменяется вся концепция обучения?

Кто знает? Единственное что меняется - это скорость изменений.

Мы пока успеваем, и как бы наши индивидуальные возможности ни проседали по отношению к физическим возможностям далёких предков, возможности каждого из нас внутри общества и возможности каждого кусочка нашей цивилизации постоянно растут. Ну по крайней мере потенциальные возможности.

А я смотрю на своего батю, и удивляюсь. Притворяется, что ни в чем не разбирается, всё ему сложно, всё не понятно, но по факту то и дело оказывается, что это такая уловка. Если ему приспичит, то он во всём разберётся, найдёт инфу в инете, всё прочитает, изучит, сделает, починит. В 3d-моделировании вот разобрался для своих затей. У меня всё руки не доходили в этом продвинуться, а он, пожалуйста, Компасом пользуется уверенно. Котлы разные отопительные ремонтирует, холодильники, а ведь "тыжпрограммист" в нашей семье я. Короче, постоянно удивляет своими компетенциями и способностью их новые получать даже в таком возрасте. Хотя если спросить, то ничерта он не знает, нифига не умеет, ни в чем не разбирается и как кампуктер включать не ведает. Ага.

Ну не знаю. Мне как раз 40+, учиться постоянно всегда приходилось, и ничто не намекает, что когда-то можно переставать учиться. Может это отодвинет деменцию на несколько лет.

Ты ошибаешься. И тебя, ведь, никак не убедить в этом. Что бы тебе доказало, что я не через ИИ это пишу?

В чём заключается опасность использования ии. Он не только может помочь разобраться в интересующих вопросах, но и убедить любого внушаемого тупого долбаëба в своей выдуманной гениальности

Такова же опасность использования любой технологии, и даже такая же опасность исходит от людей. Вон Гитлер убедил сколько народу, что сжигать население деревнями вместе со стариками и детьми - это приемлемо.

Любой внушаемый тупой долбоёб в первую очередь обманывает себя во всём сам. Он рад обманываться. Он этому учится всю свою жизнь, и преуспел в этом как мало в чем другом. ИИ - это всего лишь повод.

Точно так же долбоёб может убедить себя, что умеет ездить на автомобиле как боженька, а потом он убьёт себя или, что хуже, других людей. Не автомобиль его обманул своей иллюзией управляемости в любых ситуациях, это долбоёб почувствовал себя суперменом. Убедил себя в том, что не способен ошибаться.

Да тут не только речь про автомобиль может идти. Про горные лыжи, про прыжки в воду на отмели, про игру в русскую рулетку...

Опасность ИИ на этом фоне выглядит бледно. Это просто новая свежая тема, а всё свежее остро воспринимается.

Если долбаëб в ней сомневается и слишком само критично к себе относится, то ии его убедит, что он зря так делает

Вы слишком одушевляете и наделяете ИИ какими-то мотивациями, которые вам кажется должны быть свойственны ИИ по аналогии с человеком.

Когда-то у ИскИнов появится сознание и собственная мотивация, и там да, там это будет справедливо. Настолько же. насколько это справедливо для людей. И опасно настолько же.

И если его вовремя не осадить и не указать на ошибки, то он такого нахуевертит, шо на голову не натянешь.

Как будто бы ИИ тут ни при чем. Долбоёб способен на это независимо от ИИ. Долбоёба может обмануть жулик, у него к этому есть мотивация. Долбоёба могут обмануть собственные когнитивные искажения. Почему вы так демонизируете именно ИИ?

И вот когда уверовавший в свою гениальность долбаëб начнет на серьëзных щах доказывать всем, что земля-то плоская, вот тогда и приходится охуевать и невыхуевать одновременно.

И вот опять же, причем тут ИИ?

Всё просто, но между согревающим теплом и пиздецким пожаром всего пару кликов

Когда-то было иначе? Ста дет не прошло после второй мировой. Нужен был ИИ для этого пиздеца? В третьей тоже мы прекрасно справились бы без него, это просто очередной инструмент.

Чему угодно. Давайте на конкретных примерах. Где она вам там нанесла? И кто мешает проверять и критически относиться к этой информации?
Ну вот, к примеру, захотите вы освоить разработку... ну не знаю, телеграм-ботов, например. Попросите любой чат с ИИ, например DeepSeek, составить вам план обучения.
Добавьте крупными штрихами. Потом непонятные вам пункты попросите расписать. Потом найдите границу своих знаний. Она, наверно, будет где-то в районе школьных, если вы раньше этим не занимались. Ну к примеру. Я же вас не знаю.
Потом можно детализировать и копать глубже в любом месте этого плана. Не понятно вам что такое биты и байты, системы счисления - нейронка расскажет просто и, если надо, подробно. Не понятно как работает браузер, веб-сервер, протокол http, стек TCP - всё это в достаточных объёмах нейронка вам расскажет. Учись - не хочу.
Где тут она вам чего нести начнёт?
Где-то в каких-то деталях? Если специально загонять её в угол технических ограничений LLM? Давайте ваши примеры, попробуем разобраться как можно было на них напороться и где как следовало бы мыслить, чтобы не напороться на такое, или, может быть, стоит как и во всех сферах, критически мыслить и перепроверять любые сведения?

Конечно прогресс. Не только мозг, жизнь вообще ленива. Энтропия так устроена. Это какой-то фундаментальный закон. Люди раньше стирали руками в стиральной яме или на речке, а теперь у них стиральные машины, а у кого-то и с сушилками, даже развешивать не надо. Люди что-то важное потеряли от этой лени?

Раньше люди могли перемещаться только на своих двоих, потом запрягли лошадей, а теперь вот на машинах и прочем транспорте ленятся. У вас нет претензий к такой лени? Мне бабушка рассказывала как они в соседнюю деревню ходили чуть ли не каждый день, а там километров 20, если туда и обратно. 25, если точнее. Ну ок, 23, они ведь напрямик шли тропинками, а не по тракту.

Когда-то уже на моей памяти моя мама - бухгалтер - считала (складывала) столбцы цифр в огромных амбарных книгах используя деревянные счеты с костяшками. Потом я прекрасно помню как ей выдали калькулятор, большой такой, с зеленым вакуумным индикатором, работал от розетки и грелся как сатана. Я отлично помню, как её рабочие калькуляторы уменьшались с прогрессом, и в какой-то момент стали помещаться на ладошке, а работать от мизерной солнечной панельки и батарейки-таблетки. До этого периода полагаю использовали для счета куда более примитивные приёмы и инструменты. Тоже своего рода лень.

Я считаю, что лень - это двигатель прогресса. Просто прогресс технический в обществе означает неизбежную личную деградацию её членов в среднем. Ничего с этим не поделать. Вон Дробышевский рассказывал, что объём мозга раньше у Хомо был побольше, а потом куча оптимизаций, которые привели к небольшой деградации личных способностей, но в интегральном эффекте только прогресс и увеличение масштабов задач всего общества.

То, что нынче зовётся ИИ - это, всего лишь, технический инструмент, который поможет нам автоматизировать кучу задач, которые раньше считались когнитивными, интеллектуальными. Мы постоянно всю историю человечества такие вещи передавали на оутсорс техническим средствам автоматизации. Вот дошло и до оперирования смыслами в плохо формализованных текстах.

Да, на такой базе кажется, что не далеко и до искусственного сознания, до реализации механизмов мотивации, а кто-то одушевляет ЧатыЖПТ и сейчас. Но это пока что в большей степени когнитивное искажение и магическое мышление. Однако дыма без огня не бывает. До такого электронного "черного ящика", который будет не отличим от человека в черном ящике осталось пол шага! Тест Тьюринга наши LLM прошли пока что только на минималках. У нынешнх решений и с памятью проблемы, и с непрерывностью обучения, и с энергетической автономностью, и с энергопотреблением, и относительной автономностью самовоспроизводства... Но по всем эти фронтам ведётся работа и будет прогресс. Точно будет.

мозг, он, сцуко, ленивый. И, незанятый ничем, склонен деградировать

Ничего нового. Бо́льшая часть общества всегда была своего рода балластом в любой сфере компетенций. Но этот балласт не бесполезен, это хранилище разнообразия, страховка от хрупкости гомеостаза.

И как бы мы индивидуально ни деградировали за последние сотни тысяч лет, совокупные возможности нашей цивилизации только растут, причем экспоненциально.

Нет каких-то намёков, покамест, на то, что эта танденция не сохранится.

Я тут как с писаной торбой ко всем пристаю со своим любимым мысленным экспериментом. Я его называю "дом советов".

Представьте, что мы взяли и в одну уютную общагу заселили большое количество специалистов по разным областям науки, философии и техники: биологов, физиков, врачей, астрономов... Задача у них такая: сообща советуясь друг с другом с учетом компетенций и голосуя при разногласиях добросовестно отвечать на любые вопросы в чате как единая личность.

В чат может прийти любой житель Земли и поговорить с этим "домом советов", задать вопросы, спросить совета.

Насколько умным, эрудированным и живым собеседником может показаться такой коллаборативный собеседник? А если вместо ученых в похожий дом советов заселить, скажем, дворников, грузчиков, разнорабочих? А если детей?

Понимаете насколько разные получатся "собеседники"?

И вот главный набор вопросов:
- А есть ли у такого "Дома советов" интеллект? Он искусственный или естественный?
- А есть ли у такого дома советов сознание? Самосознание? Воля? Личность?
- Насколько здоровой в психотерапевтическом смысле будет такая личность?
- Насколько стабильной она может быть (особенно если в доме советов живёт до сотни разных специалистов, и они очень стараются общаться как единая личность)?
- Будет ли личность другой, если заменить одного участника такого Дома? А если группу? Есть ли четкие границы? Тут уместно вспомнить концепцию Корабля Тесея.
- Если мы признаем групповую личность как личность, то как можем не признать цифровую личность на базе генеративных моделей и некоторой технической обвязки с памятью контекстов?
- Если не признаем групповую личность личностью, то как можно отличить её от реальной личности? А если нельзя отличить по внешним проявлениям, то есть ли разница? Почему?