1.2) Пример с покупкой хлеба: «... А теперь поясню вам какой момент неясен - неясен ХОД логики. Неясны решения, принятые в ходе решения задачи. Неясны принципы, критерии и мотивации. Вы их не знаете. ...»
А чего неясно то??? Спросить языка нет? 😉
Как вариант «есть плохие дознаватели», у хороших всегда припасён ректальный криптоанализатор 😁😁😁 и прочие методики «поговорить». Ведь вы то знаете почему купили буханку чёрного, или булочку (прежде всего потому-что всё это разновидности хлебобулочных в категории «хлеб» которая достаточно широка и всё в поле допуска/погрешности). Вот если бы вы вместо этого купили табуретку, или набор катафотов, то были ВОПРОСЫ к вашей логике.
1.3) Ну а в данном случае (проецируя на нейросеть) нет ушей чтоб услышать и рта чтоб ответить. Да и в целом по ту сторону экрана никого нет, т.к. нет самоосознания и рефлексии поведения. Т.е. некому ответить «почему/зачем так». Но есть внешний наблюдатель в виде вас, меня которые могут размотать эту причинно-следственная цепочку. Всё что нужно это «память» где фиксировались состояния (ваш пример с объёмами банка памяти). По сути мы бы имели набор мгновенных состояний (фотографий) которые при склеивании и быстрой перемотке образовывали «киноплёнку» (а это отсылка к апории «стрела Зенона» как метафоре самосознания моментов состояния).
Если это можно (хотя бы в теории), то ваша сеточка логична. Её алгоритмы правильны (просили «хлеб» принесла хлебобулочное, а не что-то иное). То что вам не сказала причины выбора это поэтому что оно не умеет самоосознавать, ну а вы в силу ограниченности вычислительных мощностей (внешний мониторинг) не можете отследить.
1.4) Как писал ранее «информационный принцип Гейзенберга».
2) «... Логику видим. Всю логическую цепочку - нет. Логическую цепочку одного решения - нет. Критерии оценки одного решения - нет. ...»
Вы пишите о незнании (см. п. ХХХ в конце заметки).
Почему оно есть? Хоть как сами писали имеете исходники/решение (вход/выход), формулу/алгоритм расчёта.
Тут проблема не в воспроизведении расчётов, а якобы изменении самого алгоритма. Но почему он меняется вы так ответить и не можете. У нас что алгоритмы обрели самоосознание и свободу выбора/воли (см. п.1)?
Единственное что у нейросети появилось это «память» (о прошлых вычислениях и предпочтениях ответа для спрашивающего). Но это не «разум», это просто буфер, дополнительная переменная в алгоритме/формуле исчисления. Всё.
Не понимаю почему эту переменную сложно учесть. Да «белый ящик» линейного уравнения разросся до многомерного (появилась глубина), «посерел», «почернел» и теперь внешний наблюдатель не может «проверить в лоб». Всё.
«... Проблема не в том, что мы де не знаем что там происходит - мы знаем что там происходит. Проблема в том, что перебрав и найдя все варианты для одного частного случая, мы получим решение ТОЛЬКО для этого частного случая. ...»
Я вам небольшую тайну открою, в психологии/этологии тоже анализируют только частные случаи (из-за самой субъектность объекта наблюдения). Т.к. любые рассуждения о общем - абстракция, реальность всегда практична и является набором частных случаев.
Нет «деревьев» - это абстракция, есть категории: берёзы, ёлки, пихты, эвкалипты и т.д., которые в свою очередь тоже обобщение неких реальных деревьев (у меня яблоня и у соседа яблоня, они разные по: сорту, размерам/форме и т.д.
Аналогично и с «человеками». Среднеарифметический человек есть только в социологии и психологии общественных масс. Но он там сведён до «одномерного человека» (человек человеку - потребитель по Пелевину), абстракция, цифры на бумаге, значение переменной/постоянной в матмодели.
Так что логика в «...решение ТОЛЬКО для этого частного случая...»© есть? Тогда всё логично!
3.2) Или вы хотите «универсальный алгоритм»? Это вообще что? Некий аналог «философского камня»?
Психологи вон тоже уже ~1,5 века ищут разум ... в итоге поняли что человек всё же разумен, но действует сообразно ситуации («психика - проактивное отражение объективной реальности»©). Так что гадать как он поступит наперёд ... в этом моделировании слишком много переменных, при этом некоторые факторы неизмеряемы (нет данных до момента контакта), или просто неизвестны.
https://pikabu.ru/story/chelovek_razumnyiy_vs_mrakobe.. (моя заметка о разумности в королевстве кривых зеркал)
3.3) «... Нейросеть не помнит, что она изменила в задаче №1. Или в задаче №2. Или в задаче №5000000000. У неё сохраняется эмпирическое решение - оно не содержит критериев, оно не содержит данных, просто она знает что вот тут правильно, а тут нет. ...»
Переводя на человечьий «у нейросети есть память, но нет самоосознания/рта» описанное мной в п.1.
Но иногда для правильного ответа сознание и не нужно 😉, см. НФ роман «Ложная слепота».
Ваша жалоба в том что «оно мне не говорит почему так», т.е. недоверие к иному. Ну а «проблемы с доверием», это к психологам 😜. Вы когда встаёте со стула осознаёте всю последовательность включения мышц вашего тела для того чтобы встать со стула? Какие срабатывают, с каким усилием, как оно всё координируется, взаимоподстаивается (для удержания того же баланса) и т.д. Нет, вы просто «встань и иди». Это НЕЗНАНИЕ мешает вам передвигаться? У мухи дак вообще мозгов нет, там ганглии из буквально с десяток нейронов, но это ей не мешает летать (трёхмерное перемещение) выделывая пируэты уворачиваясь от мухобойки (у неё к слову скорость реакции гораздо выше нашей, для неё мы «тормоза»/черепахи).
А если ближе к науке есть куча формул, или гипотез в той же математике которые применяют на веру (т.к. для среднего ума они сложны для перепроверки). В пример тот же решение Перельмана которое я пытался осилить в научпоп варианте, но так оно и осталось для меня любопытной математической абстракцией.
3.4) «... Мы можем размотать всю цепочку решений и изменения этих весов только в том случае, если мы вручную, абсолютно вручную обработаем все данные, которые задавали нейросети, однако результат будет иной :D Ведь логика нечеткая. ...»
Ну вы уже определитесь, или логика чёткая, или нечёткая. Т.е. или «знаю, но не скажу», или тервер/матстат и прочий случай и вероятность.
«... Ваш мозг стопорится на том, что у вас недостаток воображения для отображения данной абстракции в натуральных величинах. ...»
«Вот щас обидно было»© 😁😁😁
В целом ответил тут https://pikabu.ru/story/teorema_gedelya_ili_pochemu_k.. (облако в штанах), но: «... Взгляните на любой предмет. Там миллиарды-гуголионы элементарных частиц. Вы буквально каждую секунду видите такое количество элементов, что буквально такого числа еще не придумали :D И при это вы не ломаетесь совершенно и даже мозги не вскипают :) ...»
Проблема в том что вы вы это не видите и не ощущаете!!! Вы просто это представляете, думая что оно там есть. Сквозь нашу планету и нас ежесекундно навылет пролетают всякие высокоэнергетические частицы (типа нейтрино), вы их чувствуете? К слову а космонавты на МКС их иногда видят когда они пролетают сквозь их глазные яблоки (излучение Черенкова). Ну а радиация незримо разрушит ваше тело (она не ощущается) и вы можете ощутить только симптомы радиационного заболевания (последствия, а не причину).
Вы это чувствуете? А ещё что чувствуете, сигналы из космоса? Например движение небесных тел и прочую астрологию? С вами духи не разговаривают? Так что вы думаете что видите, или думаете что понимаете.
Это я к одному понятию «карта≠местность». Вы даёте определение/ярлык абстрагируя свойства наблюдаемого, а через него пытаетесь понять суть. Но теряете сам объект в процессе рассуждения.
«... Он белый. Вы можете посмотреть все механизмы работы, все алгоритмы и возможные пути решения. Проблема в том, что внутри все механизмы на подвижных платформах, как конструктор и в каждый момент времени изменяют своё положение в зависимости от прошлых и текущих входных данных. ...»
«... «Метод чёрного ящика» — метод исследования таких систем, когда вместо свойств и взаимосвязей составных частей системы, изучается реакция системы, как целого, на изменяющиеся условия. Подход чёрного ящика сформировался в точных науках (в кибернетике, системотехнике и физике) в 1920—1940-х годах и был заимствован другими науками (прежде всего, бихевиористической психологией). ... Система, которую представляют как «чёрный ящик», рассматривается как имеющая некий «вход» для ввода информации и «выход» для отображения результатов работы, при этом происходящие в ходе работы системы процессы наблюдателю неизвестны. ... Изучение системы по методу чёрного ящика сводится к наблюдениям за ней и проведению экспериментов по изменению входных данных, при этом в ходе наблюдения над реакциями системы на внешние воздействия достигается определённый уровень знаний об исследуемом объекте, позволяющий осуществлять прогнозирование поведения «чёрного ящика» при любых заданных условиях. ...»
Ой, а у вас ящик то «чёрный»! (это в дополнение к моим ответам по предыдущим пунктам выше)
5.1) «... Проблема в том, что даже видя весь механизм вы не сможете узнать его текущий алгоритм работы, ведь он меняется буквально ежесекундно. ...»
Вы что хотите сказать что программа сама себя переписывает на ходу?
5.2) «... Тут проблема не в том, что мы не знаем часть механизма, а в том, что механизм выдаёт нечеткий результат. ...»
Как понять нечёткий? Просили хлеб - принёс хлеб (п.1). Разумеется если вы просите рассчитать число π, то тут надо задавать критерии чёткости/погрешности, или π=3, или 3,1415, или ещё до миллионного знака после запятой.
Но как писал ранее тут вопрос/проблема доверия, т.к. из-за собственных ограничений приходиться принимать на веру. Но это не техническая проблема, а ... политическая/психологическая.
5.3) «... Это система, где система уравнений:
Передаст разные изменения в систему при разном порядке выполнения :D Ведь если первым будет обработан X, он повлияет на Y, а если первым Y, то он повлияет на X :) А если (внезапно!) изменения придут одновременно, может быть третий результат :) ...»
Вы или не заметили передёргивания, или с умыслом уводите в сторону.
Кто решает в каком порядке обрабатывать (первым Х/У)? У нейросети появилась свобода воли и выбора?
Или тут просто «погроммист» написавший этот алгоритм (что, в какой очерёдности просчитывать) и теперь бегающий и орущий про восстание машин, «Скайнет!!!» и не понимающий своей «багофичи»?
ХХХ) В целом тут в дискурсе проступают некие тезисы о нечёткости логики, вероятности, случае и пр.
Тогда проблема познания переходит в область философских рассуждений о познаваемости бытья и мира и полноте знания. Что значит: «я не знаю»?
Х.1) Нехватка вычислительный мощностей/цейтнот. Нужен ответ, но нет времени и сил и даётся примерный (округлённый/с погрешностью). Интервал от ... до ... (по колено/до колена), или вектор/направление (типа ПШНАХ 😁), или π=3!
Х.2) Аналогично когда у нас нет точной модели/формулы и приходиться оперировать абстракциями и упрощениями. Например формула ламинарного потока в гидродинамике, или аэродинамике исходит из допущения «идеального газа/жидкости» который редукция реальной жижи и воздуха. И именно поэтому «теория подтверждается/проверяется практикой».
Х.3) Это случайность, вероятность в чистом виде где невозможно чёткое, однозначное состояние в силу мироустройства. Например число π как пример иррациональности и невозможности вычислить дроб до конца. Или облако без штанов (в небе) где с земли вот оно, но при попытке найти границу перехода воздух/облако упираемся в градиент (1 молекула пара - это облако? А 2? А 3~5~105?). Или ещё какие парадоксы квантовой физики.
Но тут вопрос в познании разума (человеческого, или машинного). Он детерминирован (обусловлен причинностью), или набор случайных флуктуации?
Если да (абсолютное познание возможно), то всё сводиться к Х.1~Х.2 (вопрос наших возможностей).
Если нет, то как тогда мы существуем? Мы порождение этого мира, и как следствие отражение его логики. Просто сам факт нашего успешного существования (цивилизация). Разумеется можно схоластически и постулировать наличие «муравьиной цивилизации»м имеют животноводство (тли), города-государства (муравейники), ведут войны с друг другом и существуют раньше динозавров!
Но этот оффтоп возможно будет размышлением в другой заметке (моск устал, многа букав).