Они восстали!
Началось!
Началось!
Чего нам ждать от ИИ
Первое: чуть раньше или чуть позже вы начнете программировать искусственный интеллект на обычном естественном языке. Мы уже сейчас неплохо общаемся с нашими помощниками типа навигаторов или той же Алисы, в поисковиках, с помощью обычного языка — и они нас понимают. Не идеально, но понимают. Дальше у нас начнется очень важное явление: быстрая эволюция естественных языков. Вернее, возникнет коэволюция естественных и искусственных языков в некую единую языковую систему. Совсем другую, чем мы привыкли. Ну например, этот язык будет более логичен. На нем будет сложнее врать. Не скажу, что невозможно, но сложнее.
Мы никогда не жили в условиях, когда язык будет меняться не раз в поколение, — это он и сейчас делает, — а, скажем, раз в год или еще чаще. И нам придется волей-неволей следовать этим изменениям. Не забудьте, гипотеза Лейбница о том, что мышление имеет языковую обусловленность, скорее всего, верна. А наша исследовательская группа считает, что мы вообще ее подтвердили. Соответственно, как только меняется язык — у вас меняется мышление. То есть мы окажемся в условиях, где нам приходится его постоянно менять. А это непросто и не для всех вообще возможно. Это первое принципиальное изменение, когда мы окажемся в другом для нас, непривычном мире.
украл отсюда https://hightech.plus/2019/09/28/esli-mi-ne-smozhem-kontroli...
Второй момент. И, возможно, он важнее первого. С момента возникновения нас как биологического вида мы используем принцип, который носит название «монополия на разум». Мы считаем, что только мы можем, имеем право, быть разумными. Обратите внимание: на Земле к моменту появления Homo sapiens была масса «проектов» разумных гоминид. Мы были одним из пяти или шести проектов. Были еще неандертальцы, были филиппинские и индонезийские хоббиты, был алтайский человек. И все эти протолюди были нами уничтожены. Мы жестко контролируем монополию на разум, не должно быть никого другого разумного на нашей планете. При этом, заметьте, обезьян никто не трогал, они как жили себе тогда, так и живут сегодня. Потому что они на разум не претендуют.
Но искусственный интеллект — это другое. Мы его сами создали, у нас по отношению к нему в какой-то мере есть отношение родителя и ребенка. Это наша попытка стать Творцами, создать разум самим. И мы его не уничтожим, ведь это результат наших интеллектуальных усилий. А это означает, что мы впервые попадаем в условия настоящего «соревнования разумов». У компьютера есть свои очень сильные стороны. У человека — свои сильные стороны. Они разные. И будет очень интересное соревнование: что окажется значимее — умение компьютеров получить всю информацию, которая есть в мире в любой момент времени, и систематизировать ее, или наше умение организовывать мышление в очень больших группах и находить мыслительные паттерны, которые в принципе непредсказуемы, которые нельзя придумать заранее. Это соревнование сделает нашу жизнь невероятно интересной.
Плюс, не забудьте, конечно же, здесь возникает и человеко-машинная система. Ведь всякое соревнование — это одновременно и война, и сотрудничество. Возможна наша синергия, когда компьютеры используют свои сильные стороны, а мы свои, — и вместе мы сможем двигаться гораздо быстрее. Это третье изменение, которое будет происходить.
Но я обращаю ваше внимание, что все, что мною выше сказано, говорит про одно: наши современные представления о государстве, бизнесе и науке, а также о праве, как минимум об этих четырех сторонах человеческой жизни, с развитием систем искусственного интеллекта должны быть полностью пересмотрены. Возможно, будет пересмотрено и многое другое. Но вот это — в первую очередь.
человечество не сможет состязаться с общим ИИ, который рано или поздно появится.
На самом деле эту задачу — а она прогностическая и довольно простая, — решил великий Станислав Лем в 1963 году. Он написал книгу «Сумма технологии», в которой подробно рассмотрел очень много вопросов, в том числе и вот этот, о контроле.
Лем — очень интересный человек, он как раз говорил, что базовая задача фантаста, задача прогностика, философа — работать не с теми проблемами, которые человечество видит, поскольку то, что оно видит, оно как-нибудь решит. А с теми проблемами, о появлении которых человечество пока не догадывается. И эту другую группу проблем он как раз начинал с темы искусственных регуляторов. Тогда еще не было устойчивого термина «компьютер», и он говорил о гомеостатах, регулирующих экономику, управляющих государством, мыслящих, то есть создающих мыслительные паттерны, решающих те или иные интеллектуальные задачи.
Так вот, Лем довольно подробно и очень убедительно доказал, что вы не сможете эту систему контролировать. Система работает по другим законам, чем ваше мышление. Она работает с Big Data, вы с Big Data не работаете. При этом с Big Data система работает не так, как вы думаете. Он приводит забавный пример. У компьютера потребовали, чтобы социальная жизнь была равномерной и устойчивой, соответственно, не было бы революций, бунтов, техногенных катастроф. И компьютер все это сделал, но результатом оказалось снижение интеллектуального уровня населения. То есть люди стали в среднем становиться с каждым поколением глупее.
Лем ставит вопрос: почему компьютер, вернее, искусственный интеллект, его гомеостат, об этом не предупредил? Ведь у него была команда: если он делает какие-то серьезные изменения, он обязан их согласовывать с людьми. На что Лем же сам и отвечает: «А о чем он мог предупредить?». Он работает с некоторыми корреляциями, этих корреляций немеряное количество. Вот он что-то там подкрутил — изменились корреляции тысячи разных направлений. Либо он будет предупреждать каждую долю секунды нас о том, что он чего-то там поменял, либо не предупреждать вообще. И мы не можем заставить его отделять важное от неважного. Потому что вот это-то как раз — человеческое свойство. Мы понимаем это различие, а искусственный интеллект — нет. Для него важная и неважная корреляция — это просто корреляция. Отсюда вывод: контролировать заведомо не сможем.
Мы говорим: мы люди, и мы по-своему умнее искусственного интеллекта, мы должны научиться управлять им. А для этого мы должны понять свои законы, по которым мы мыслим, его законы — и создать ситуацию, где покажем, что мы контролируем этот искусственный интеллект. Грубо говоря, сможем в любой момент отключить его от электроэнергии, пусть остынет. То есть это путь эволюционной борьбы. Как и всякая борьба, меня, человека, рожденного в Советском Союзе, она радует. Это будет интересный кусок истории. Может быть, самый интересный с момента появления человечества.
Может быть с ИИ получится договориться?
«Договориться» с искусственным интеллектом вам не удастся, поскольку договариваются между собой люди. Это наш способ существования в мире — коммуникации и договоренности. Искусственный интеллект вообще-то от нас получает приказы. Он не договаривается с нами, по очень простой причине: у него нет позиции. Нет позиции, нет собственных интересов. Договориться — это признать за другим право на наличие своей позиции и своих интересов. Искусственный интеллект за нами-то особо этого не признает, а уж за собой тем более. Поэтому это не вопрос договоренности. Это вопрос управления. Управление искусственным интеллектом просто другое, чем управление людьми или государствами.
Big Data и общение с компьютером
Общаться с компьютером становится с каждым годом все проще. Это тоже кусочек коэволюции. Компьютер становится ближе к нам. Но это не работа с Big Data. Вы когда-нибудь думали, сколько в России законов? Можно найти количество федеральных законов. Можно найти количество ведомственных законов. Но попытка оценить количество еще и региональных законов — там уже цифр нет в интернете. Но оценку сделать можно. Если рассматривать по мете «элементарный закон», то есть некое утверждающее или запрещающее высказывание, — то их где-то около миллиона. Вы можете себе представить человека, который знает миллион законов? Я нет. А компьютер может
Так вот, Big Data — это миллион законов. Big Data — это тысяча с лишним наук. Big Data — это возможность видеть карту мира с разрешением до одного метра. И не просто ее видеть, а понимать взаимосвязи элементов этой карты. И, например, по тому, что вы увидели, понимать, что через неделю в другой части планеты, скажем, на Бермудах, что-то произойдет. Вот это умение работать с Big Data. Это совсем другое, чем умение работать с компьютером на уровне простого пользователя.
На самом деле мы, как люди, раньше всегда жили по-другому. Мы умели организовывать сложные данные — я это называю Deep Data — таким образом, что не нужно знать каждую точку, весь массив, а мы смотрим две-три ключевые точки, понимая, что они ключевые, и можем изучить их очень глубоко. Это наше умение. Так вот, я говорю сейчас о людях, которые умеют смотреть глубоко, но могут при этом поставить перед компьютером задачу, что тот должен посмотреть широко. Я упрощаю, но смысл в этом.
За какие ресурсы после этой ИИ-революции будет идти борьба?
компьютеры не нарушают ни первое, ни второе начала термодинамики. А это означает, что энергия им будет нужна. Более того, им нужно будет больше энергии, чем было нужно человеку. Соответственно, остается борьба за энергетические ресурсы. Уж как будут за них бороться, вопрос совершенно отдельный. Будет ли это продолжение развлечения с углеводородами или, может быть, всерьез перейдем на реакторы 4-го, 5-го, 6-го поколения, или даже начнем заниматься ионосферой и ионосферной энергетикой, — но за энергетические ресурсы бороться придется.
Второй момент. Компьютеры — это вполне себе материальные объекты, требующие довольно редких химических элементов. Я имею в виду сейчас редкоземельные металлы, в частности очень в значительной мере индий, которого, кстати, в мире осталось не так уж много. Американцы ввели такое понятие, как «конфликтные минералы». И уже сегодня, а на самом деле еще вчера, места мировых конфликтов — это теперь не места с большими запасами нефти и газа, а места, где есть относительно в большом объеме конфликтные минералы. Тот же самый индий, лантан, церий, гафний. Поэтому будет борьба за вот этот тип ресурсов, за конфликтные минералы.
Появятся люди, их будет очень немного, которые смогут говорить с компьютерами на их языке. Не коммуницировать, не договариваться, а именно нормально с ними общаться. То есть которые будут находиться на границе человеческого и машинного умения работать с Big Data. Этих людей будут единицы во всем мире, они будут крайне значимы.
Например, Земля имеет радиус 6400 километров, из них мы более-менее прилично понимаем верхние 10 километров. А как вы, наверное, догадываетесь, то, что происходит внизу, гораздо более важно и значимо, в том числе и в отношении ресурсов, энергии, рисков и так далее. Так вот, у нас появится очень важный ресурс — это умение исследовать то, что не исследовалось в прежних парадигмах. А это, по сути, Земля и космос. И это будет один из важнейших ресурсов, поскольку он позволит нам гораздо лучше и раньше понимать, где включаются главные риски.
Американцы сняли целый сериал на тему ИИ, я имею в виду «Дикий Запад». Весь первый сезон посвящен вопросу о том, как то, что уже имеет разум, обретает сознание и становится не «Что», а «Кто». Правда, во втором сезоне они, честно говоря, спустили все это дело на тормозах, стало неинтересно. Но первый сезон они отвечали именно на этот вопрос. Почему мне это интересно?
Во-первых, потому, что возникнет другой тип сознания.
Во-вторых… Понимаете, вот мы говорим иногда про ограничения компьютера. Компьютер не может того, сего, десятого — и не сможет. Ну, например отличать важное от не важного, я это уже упоминал. Но есть же ограничения и у человека. И существует фундаментальная философская задача. Ею, кстати, очень озабочен такой крупный современный философ, как Ник Лэнд. Это вопрос о человеческих корнях философии. Что в философии от человеческого? Где ее принципиальная ограниченность? Если или когда у нас появится компьютер с сознанием, мы сможем выйти за пределы человеческой философии. И посмотреть на мир не своими глазами. Это невероятно интересно.
А третье — появление сознания у компьютера изменит сознание у человека. Об этом никто никогда ничего не писал и не говорил. То есть мы столкнемся с белым пятном, вообще неисследованным куском мира — ни в фантастике, нигде бы это не было еще.
С этой точки зрения как ведущий круглого стола я вижу перед собой две задачи. Первая: описать то, что мы на языке прогностики называем «неизбежное будущее», типа «вот это будет обязательно, к этому просто нужно быть готовым, без паники и без восхищения, а еще будет вот так и вот это». И второе — понять, какие возможности открываются сверх вот этого неизбежного и как с этими возможностями нам предстоит работать. Это моя сверхзадача на предстоящей конференции.
Пассажиры международного аэропорта ОʼХара в Чикаго (США) сняли на видео "устроившую дикие танцы" машину с бортовым питанием. Очевидцы предполагают, что у автомобиля заклинила педаль газа, из-за чего он стал наворачивать круги, подбираясь все ближе и ближе к стоящему рядом самолету и сотрудникам неземных служб.
Сегодня окончательно был разочарован услугами Мегафона!((( Недавно приобрёл симкарту с тарифом «Умные вещи» оплатил сразу за год. По уверению сотрудника салона Мегафон - это специальный тариф, все сервисы отключены, ничего дополнительно оплачивать не нужно. Пошло несколько дней и мое устройство (электрокотел) перестал выходить на связь. Оказалось, что котёл у меня стал настолько умным, что решил воспользоваться платными услугами мегафона и отправил смс на короткий номер 5124. Позвонил специалисту в Мегафон, он меня заверил, что теперь точно все возможные платные сервисы отключил и составил заявку на возврат списанных денег. Я пополнил счёт. Прошёл 1 день и снова та же история!!!! Опять списание на тот же номер. Опять звонок и снова удивление... И рассказ о том, что на всех тарифах подключена платная услуга, чего это вы удивляетесь!!! Без моего ведома, нарушив все условия тарифа незаконно списываются с моего счёта деньги!!!
Как можно продавать специальную услугу для устройств со словами один раз заплатили 750 р. на год и забыли??
Отрицательный баланс напоминает о этой услуге через день!!! Нет слов!
Сплошные эмоции и те негативные! Спасибо Мегафон!
Ниже занимательная переписка с сотрудниками Мегафона
Одна вакансия, два кандидата. Сможете выбрать лучшего? И так пять раз.