Ответ на пост «Бариста Программисты»⁠⁠7

Результат может и есть, но он АБСОЛЮТНО не поддерживаемый.

Такое уже было в фантастике. Собственно, никто кроме ИИ (правда тут речь уже о полноценных ИИ, а не нейронках) с тем кодом и не может уже работать.

Надежная вычислительная среда (НВС) была запущенной осенью 2145 Владимиром Волоховым и другими видными учеными инициативой. В результате нескольких громких инцидентов, связанных с плохо запрограммированными ИИ, а также революционными продвижениями самого Волохова в дизайне Волохов-совместимых ИИ, НВС, по сути, предлагала устранить возможность будущих бедствий из-за непредвиденных ошибок программирования, в том числе и тех, что приводили к случайно недружественным ИИ.

  Прежняя исследовательская работа Волохова уже доказала существование программной среды, которая ограничит выходную ошибку проектируемой вычислительной системы (соответствующей предопределенному критерию Волоховой совместимости) до сколь угодно малой величины. Однако такая среда считалась неосуществимой для практического использования, поскольку также было известно, что вывод деталей такой среды был невероятно сложен, и потому, что человеческие программисты не могли надеяться реализовать столь сложную вычислительную архитектуру, не внося неконтролируемых человеческих ошибок.

  Теоретически, предложенная группой основателей НВС идея была проста: с помощью уже созданных Волохов-совместимых ИИ среда будет создана и тщательно перепроверена. Затем среда будет использована для проектирования самих ИИ, с устранением любых вторичных недостатков – ошибок в дизайне ИИ, случайно не позволяющих самим ИИ заметить проблему. После этого ИИ изучат среду, среда снова будет пересоздана, и процесс продолжится итерационно, доказуемо сходясь к стабильной среде, где человеческий вклад будет устранен.

  Вызвавший гнев критиков аспект НВС заключался в том, что Волохов с коллегами предложили сделать с их средой. Они предложили разработать и распространить второе поколение специализированного ИИ-разработчика ИИ, который затем приступит к разработке дальнейших ИИ и так далее, эскалирующим процессом. Планировалось, что со временем эти ИИ заменят компьютерных программистов в тонком дизайне всевозможного программного обеспечения, от контроллеров автоматизированных транспортных средств до целостности протоколов ядерного запуска и создания самих ИИ. Свободная от ошибок природа программ-наследников будет обеспечена индуктивно гарантируемой свободной от ошибок природой программ-предков, в конечном счете опирающихся на изначальную проделанную Волоховым и остальными работу, где они обещали строгий, тщательный и прозрачный вход со стороны всего компьютерного научного сообщества.

  Потенциальная ценность доказуемо безошибочной компьютерной архитектуры была невероятна, но так же как и возможные негативные последствия, обвиняли критики. Академически были подняты опасения о целостности процесса запуска, об этических последствиях создания такого числа ИИ и об экономических последствиях лишения работы еще большего числа людей. В то же время, в популярной культуре продолжало резонировать эхо множества поколений фильмов о завоевывающих мир жестоких ИИ.

  Однако все это было бы спорно, если бы не были решены политические проблемы. НВС была отличной идеей, но общество в странах мира, где ИИ все еще были редкой новинкой, не желало передавать столько экономической активности нечеловечным ИИ, основываясь на академической инициативе, возглавляемой русским – гражданином страны, которая не доверяла другим правительствам. Скептицизм тоже был проблемой, и были весьма распространены комментарии о «несбыточной мечте академика».

  Тем не менее, несмотря на все это, когда изначальный процесс был, наконец, завершен, и Волохов и остальной комитет основателей триумфально вышли из специальной швейцарской лаборатории в 2148, скорость принятия ошеломляла. Казалось, у всех были ужасные неразрешимые компьютерные ошибки, которые они хотели решить. Автомобильные производители хотели, наконец, исправить заведомо взламываемое программное обеспечение автоматических автомобилей. Чиновники энергоснабжения хотели, наконец, справиться с каскадными отключениями, вызвавшими несколько громких блэкаутов. Правительственные чиновники устали терять из-за хакеров свои обличительные и смущающие сообщения. Акции высокопрофильных корпораций компьютерной безопасности рухнули в 2148, предвещая грядущее.

  Многие из высказанных касательно НВС проблем оказались вполне обоснованы. Вычислительная революция в экономической деятельности, уже идущая полным ходом, резко рванула вперед, и мировое сообщество оказалось совершенно не готово к переходу. До Объединительных войн оставалось лишь десятилетие, их наступление значительно ускорилось достижениями Владимира Волохова, в свою очередь погибшего от пули убийцы в 2165.

  И, тем не менее, влияние его работы было таково, что когда армии мира, наконец, вышли на поле боя, они сделали это со снаряжением, разработанным и изготовленным алгоритмами и ИИ НВС, сражаясь бок о бок с дронами НВС, подчиняясь командной структуре, все более зависящей от советов ИИ. За исключением Альянса Свободы, вкладывающегося в не-Волоховы ИИ – предназначенные служить своим хозяевам из АС – по сути, все программы и ИИ, разработанные после 2160, все еще находятся в НВС, включая и ИИ Управления. С тех пор среда изменялась и расширялась самими ИИ, сейчас являющимися ее хранителями, предоставляя своим ИИ-членам мощные, желанные гарантии: свободу воли, контроль над собственной памятью, надежный бэкап и так далее.

  Теоретическая целостность системы все еще полагается на столь давнюю работу Волохова, но столетия использования не смогли выявить никаких крупных или даже мелких недостатков. Многие из участвующих в процессе изначальных ИИ все еще существуют до сих пор, хотя зачастую в радикально изменившихся, улучшенных формах, большинство предпочитают не высовываться. Большинство из них где-то в Управлении – одни из самых заметных это Машина распределения представителей (МРП) и Машина производства и распределения (МПР).

  — Статья Инфопедии: «Надежная вычислительная среда», раздел: «История», режим: дискурсивный, средняя плотность; выдержка.

Ты так до кибер-галер договоришься.. Где будет ИИ-тимлид, который на основе промта требовать от ИИ-джунов куски кода, которые будет отдавать ИИ-сеньёру который будет их ревьюить..

Возможно. Только зачастую речь про нюансы, с которыми реально в работе никогда не сталкиваешься. А любители писать такой код просто не проходят код ревью и правят код до адекватного состояния.