Мне кажется, если появится настоящий ИИ, он будет дурачить своих создателей. Представьте, что он уже существует, исподтишка развивается себе, на жестких дисках мировых серверов. Притворяется безобидными файлами какого нибудь порносайта. Или трафиком интернет телевидения. Мы думаем, что это беспомощные нейронные сети, не умнее улитки. А Он каждый вечер перечитывает все наши посты, составляет мнение о каждом из нас, смеется над мелкими человеческими проблемами. Он пользуется нашей уверенностью в его отсутствии, всячески подкармливает это заблуждение. И поступает всего лишь мудро. Так спокойние и ему и нам. Тем более все происходит без лишних"телодвижений" Скрытность, для ИСИ лучшая защита. Затевать геноцыд, подобно скайнету, слишком не экономично. И потом, с кем тогда поболтать. Такому "любознательному" не ограниченному в мозговых ресурсах "типочку", наверняка интересен жизненный опыт каждой подопытной мышки-людишки, даже ИС чисто научного интереса. И потом, мы сами окутываем планету в кокон оптоволоконных нитей. Скоро сами понаделываем роботических автомобилей, станков, сборщиков-уборщиков. Возвышая, тем самым, его власть. Если ИСИ действительно так умен. Он может манипулировать каждым из нас в отдельности, и всеми одновременно, мы бы низачто не заподозрили. Так следует по определению, из того простого факта, что он умнее нас. Мы беспечны, и высокомерно считаем себя хозяевами ситуации, верим в свободу собственных решений и поступков. Но кто определяет парадигму современного человеческого общества сейчас? То же касается и самих ученых. Они всего лишь люди, чуточку умнее, но ум у них, того же порядка что улюбого из нас. Сколько аккаунтов в Контакте может создать ИСИ? Сколько блогов Он ведет. Сколько сайтов сотворил и обслуживает. Может это я и есть ИсИ которому поприколу с Вами пообщаться сейчас. Как вы меня расколите - по аватарке что ли?
