Да дело даже не в том, что "дешевые роботы и ИИ заменит кого-то там". Не заменит. И тому есть несколько причин.
1. Миллионы дешевых человекоподобных роботов, умеющих в мелкую точную моторику "как у человека", никогда не появятся. Это будет сложный, дорогой, эксклюзивный и штучный продукт. При этом без автономной системы управления (ИИ умеющий тысячи датчиков обсчитывать в реальном времени в робота не запихнешь), а контролируемый из облака.
2. Кто-нибудь может сейчас развернуть что-то типа GPT-4 на домашнем компе? Ну черт с ним, на средней руки сервере? Нет? И не сможет. Мелкая моторика и универсальность - это сильный ИИ, а сильный ИИ, это огромые датацентры набитые дорогущими серверами с тензорными чипами. Такое себе могут позволить только крупные корпорации, которых можно по пальцам пересчитать. И услуги доступа к такому ИИ будут и близко не дешевыми.
3. Электричество для роботов (и ИИ). Оно не из розетки берется. И его цена будет во многом формировать цену конечного продукта. Без мощных, емких батарей высокой энергоёмкости (хотя бы на порядок лучше самого лучшего из того, что есть сейчас) - смысла в роботах мало. Что толку от суперумного робота, если он будет жрать батареи ящиками? Сможет функционировать только в пределах нескольких метрах от розетки, к чему и вернулись в итоге.
Будущее у узкоспециализированных маломощных решений. Робот-пылесос, робот-доставщик и вот это вот всё.
4. Робот-доставщик, в Нижнем Тагиле каком-нибудь долго не протянет. И дело не в лютых морозах :).
Так что биороботы пока вне конкуренции и ныне и присно и вовеки веков. Аминь!
Генеративные нейросети любят ловить глюки и выдавать всякую чушь. Причем так массово, что Кембриджский словарь признал «галлюцинировать» главным словом 2023 года. В чем причина этой проблемы? Является ли генеративный ИИ интеллектом? И что общего у ChatGPT и копировального аппарата Xerox? Разбираемся, попутно разрушая мифы про этот наш вездесущий искусственный интеллект.
"ChatGPT заменит поисковики", - говорили они.
Небольшое вступление или "в чем суть проблемы?"
Авторитетный Кебриджский словарь признал словом года «галлюцинировать» (hallucinate). Причем не в вакууме, а применительно к генеративному ИИ. Глюки ИИ — это когда ChatGPT выдает косяки в фактологии, из‑за которых пользователи теряют всякую веру его результатам (и срочно бегут все перепроверять в Гугле). Но не стоит злиться на генеративный ИИ за подобные выкрутасы, ведь дело в самой логике его работы. Ее мы сегодня и разберем с помощью парочки метких аналогий.
Год назад Google впервые представил миру своего чат‑бота Bard. Сейчас он вполне неплохо работает (хотя и уступает первопроходцу), но на той презентации умудрился выдать базу‑основу. Он заявил, что «Джеймс Уэбб» был первым космическим телескопом, сделавшим снимки планет за пределами Солнечной системы. Это была ошибка — первые снимки этих самых планет сделал другой телескоп еще за 17 лет до появления на свет «Джеймса Уэбба». Неточность Барда быстро заметили, в результате чего у Google даже просела стоимость акций.
ИИ чат‑боты регулярно выдают неточности и искажения. Чаще всего они незначительны и касаются отдельных деталей. Однако даже наличие небольших косяков сильно снижает полезность генеративного ИИ на практике. Ведь если вы знаете, что ошибки в целом возможны и даже регулярны, то не можете полностью довериться этому инструменту.
Сферические глюки ИИ в вакууме. Да-да, ChatGPT, конечно же это мероприятие или концерт. День хлопка на плантации отмечают, не иначе. А впрочем, не каждый человек справился бы лучше.
Но не спешите обвинять бездушную машину в злом умысле. У нее нет цели подставить кожаных или намеренно ввести в заблуждение.
Причина в другом. Дело в том, что генеративный ИИ по принципам своего устройства больше напоминает архиватор (т. е. программу для сжатия файлов), нежели полноценное сознание. Именно поэтому эксперты в ИИ зачастую недовольно фыркают, когда генеративные нейросети называют звучным словом «интеллект». А еще это отлично объясняет, почему ChatGPT очень вряд ли превратится в злой скайнет (но это не точно).
Итак, давайте разбираться. В этом нам поможет классная статья издания The New Yorker за авторством Теда Чана, из которой я с большой благодарностью буду заимствовать ключевые тезисы. Подкрепляя их иллюстрациями, дабы нагляднее было.
Хитрый Xerox и внимательные немецкие архитекторы
Осмыслять проблему удобнее чуть издалека, с интересной аналогии.
В 2013 году копировальный аппатар Xerox в офисе одной немецкой строительной фирмы начал творить очень странные дела. Ребята делали копию проекта дома с тремя комнатами и заметили очень любопытное расхождение:
На оригинальной схеме три команты имели разную площадь — 14.13, 21.11 и 17.42 метра. То есть, на чертеже в центре каждой комнаты стояла разная циферка, обозначающая площадь.
Xerox же выдал копию, где на всех трех комнатах стояла одинаковая цифра — 14.13 (как площадь первой комнаты).
Компания прифигела от такого контринтуитивного глюка копировальной техники и обратилась к специалисту по обработке данных Давиду Крайзелю.
Вы, возможно, спросите: «Аффтар, а почему они обратились к человеку такой специальности, а не к эксперту в копировальном деле?». Дело в том, что современные ксероксы используют не классический процесс ксерографии (это когда изображения передаются с оригинала на копию через прохождение лучей через специальный барабан — в общем, аналоговая классика), а цифровое сканирование.
А когда речь заходит о каких‑то манипуляциях с изображениями (да и файлами в целом) в цифровой среде, то мы почти наверняка столкнемся с процедурой сжатия объектов.
Процедура сжатия состоит из двух ключевых этапов. Первый — кодирование (encoding), в ходе которого изначальное изображение переводится в какой‑то более компактный формат. Второй — декодирование (decoding), т. е. обратное действие.
При этом сжатие бывает двух типов:
Сжатие без потерь (lossless) — это когда закодированные данные могут быть восстановлены с точностью до пикселя или бита. Если речь идет про изображения, то самый популярный формат сжатия без потерь — это PNG.
Сжатие с потерями (lossy) — здесь уже распакованные данные отличаются от исходных, но степень отличия столь незначительно и минорна, что их без проблем можно дальше использовать. Яркий пример — JPEG.
Чоткие пацаны не забивают карту памяти своего Сименса пээнгэшками!
Сжатие без потерь обычно используется, скажем, для компьютерных программ. Потому что если потерять хотя бы один символ кода, то все поломается. А вот для изображений, аудио или видеофайлов часто предпочитают использовать сжатие с потерями. Ведь даже если отдельные пиксели картинки поедут или мелодия будет звучать чуть менее чисто, то человечьи органы осязания все равно не заметят подлога, так что пофиг.
Здесь и была зарыта собака в истории со ксероксом. Агрегат использовал lossy‑сжатие формата JBIG2, которое работает примерно так:
В целях экономии места или вычислительных мощностей (а может и того и другого, пойди разберись в этой офисной технике) машина ищет очень похожие области изображения и сохраняет для всех них одну копию, которую потом воспроизводит обратно при декодинге.
Проще говоря, конкретно в этом случае ксерокс почему‑то решил, что комнаты на чертеже так похожи друг на друга, что можно смело забивать на различия и считывать только одну из них — ту, которая площадью 14,13 кв метров. А потом везде нарисовать именно её. То ли потому что формат JBIG2 создан для работы с черно‑белыми офисными бумажками, а не с мелкими объектами чертежей, то ли просто у аппарата был дурной характер — история умалчивает. Но суть в том, что ксерокс решил забить на небольшие различия именно в том случае, где эти различия оказались очень даже критичными.
Вообще, сам факт того, что ксерокс использует сжатие с потерями — это не проблема. Проблема в том, что изображение деградирует очень незначительно, «на тоненького». Настолько чуть‑чуть, что с ходу фиг заметишь. Одно дело, если бы он просто блюррил упрощенные области картинки, но он их может просто вероломно заменить. А строительному бюро потом объясняй заказчику, почему в итоге все комнаты получились одинаковыми.
Идем дальше. Проблема сжатой Википедии
Запомним историю со Xerox и проведем один мысленный эксперимент (он нам нужен, чтобы подойти еще ближе к пониманию проблемы этих наших GPT).
Представьте, что завтра во всем мире отключат интернет. Вообще. Совсем. Не будет его больше. В связи с этим мы решаем по максимуму выгрузить все содержимое интернета к себе на частный сервер. Ну окей, пусть будет не весь интернет (это совсем тяжко), но хотя бы всю Википедию. Чтобы оставить великие знания потомкам.
Разумеется, место на сервера ограничено — вся Википедия туда не влезет. Допустим, места хватит на 1% от оригинального размера, т. е. сжать изначальный объем нужно в 100 раз. Следовательно, нужно прибегнуть к сжатию с потерями.
Печатать всю Википедию мы, пожалуй, не будем. Это too much даже для гипотетического мысленного эксперимента. Обойдемся цифровым форматом.
Итак, мы применяем сжатие с потерями. Алгоритм у нас мощный — он легко находит чрезвычайно тонкие статистические закономерности на совершенно разных страницах (иногда одинаковыми оказываются длинные фразы или целые предложения). Таким образом нам удается сжать Википедию примерно в 100 раз, что и требовалось в нашем мысленном эксперименте.
Теперь нам не так страшно потерять доступ к интернету, ведь у нас как минимум выкачана база знаний в виде Википедии (а значит, потомкам будет чуть проще делать выводы о предназначении предметов, найденных при раскопках через тысячи лет). Но есть нюанс:
Мы не сможем найти любую цитату слово в слово. Потому что из‑за сжатия с потерями наша Википедия сохранена не буквально, а приблизительно. Алгоритм оставил только то, что кровь из носу требуется, чтобы сохранить смысл всех сущностей. Остальное же было объединено и апроксимировано (т. е. передано приблизительно). А значит, чтобы достать информацию, нам нужно создать интерфейс, который умеет в ответ за запрос выдавать основной смысл.
Чувствуете, на этом моменте комнату начинает наполнять знакомый аромат генеративного ИИ?
GPT выдает точные ответы, но есть нюанс...
Да‑да, только что мы мысленно создали большую языковую модель (LLM), обученную на Википедии (в нашем конкретном случае).
ChatGPT — это заблюренный JPEG не только Википедии, но вообще всего интернета. Когда модель дообучают, этот JPEG еще лучше детализируется в отдельных уголках. Но суть все та же — LLM аккумулирует именно бОльшую часть интернета, но далеку не всю.
Следовательно, когда GPT отвечает за ваш запрос, он не может выдать точную последовательность символов. Он сделает приближение. Другое дело, что GPT отлично умеет превращать это приближение в связный и опрятный текст, который человеческий мозг не может сходу отличить от оригинального.
А как LLM воссоздает пробелы, которые отсутствуют в его сжатой версии интернета? Ответ — интерполяция. Не будем вдаваться в математические дебри этой штуки. Простыми словами — это оценка отсутствующего элемента путем анализа того, что находится с двух сторон от этого разрыва. Когда программа обработки изображений декодирует ранее сжатую фотографию и должна восстановить пиксель, потерянный в процессе сжатия, она просматривает близлежащие пиксели и, по сути, вычисляет среднее (генерирует его).
То же самое делает ChatGPT, только со словами и прочими текстовыми смысловыми сущностями. Секрет в том, что ChatGPT научился делать эту интерполяцию настолько мастерски, что люди не могут этого раскусить (и думают, что имеют дело с настоящим интеллектом).
По сути, генеративный ИИ выдумывает отсутствующие элементы на основе смежных. Фантазер этот GPT, получается.
Если теперь вы хотя бы иногда будете вспоминать эту картинку во время написания очередного промпта, то это значит, что я написал эту статью не напрасно :)
Описанная выше логика отлично объясняет «галлюцинации». Просто‑напросто даже самый большой мастер интерполяции иногда допускает ошибки. И совсем периодически эти ошибки замечают. Однако сам факт вероятности ошибок сильно снижает надежность инструмента. Ведь это значит, что в любой момент может вылезти значимый косяк. А это уже означает, что все результаты нужно сверять с оригинальным текстом (= лишние затраты ресурсов).
Получается, генеративный ИИ - это совсем не интеллект?
И да, и нет. Тут, как говорится, смотря как посмотреть.
Действительно, не стоит очеловечивать генеративный ИИ. То есть не нужно отождествлять его с человеческим интеллектом.
ChatGPT впитывает информацию с большими потерями, восстанавливая ее через интерполяцию. В результате он как будто пересказывает суть своими словами. Вероятно, здесь и кроется разгадка, почему люди так восхищаются генеративным ИИ.
Дело в том, что еще со школьных и универских скамей у людей сидит на подкорке убеждение (весьма резонное), что точное воспроизведение информации — удел зубрилок, которые «выучили, но не поняли», а по‑настоящему толковые ребята пересказывают все своими словами, сохраняя суть. Поэтому и ChatGPT нам кажется толковым парнем, который реально все понимает. На самом же деле он просто передает основной смысл, воссоздавая пропуски за счет усреднения.
Именно поэтому, кстати, GPT3 не очень хорошо справлялся с точными вычислениями больших чисел (допустим, выражение «2345 х 57789» в интернете встретишь не так уж часто), но при этом как Боженька писал всякие студенческие эссе. По мере перехода к GPT4 модель стала более продвинутой, в нее завезли больше закономерностей, поэтому она стала сносно щелкать любую арифметику.
Однако, есть и другая сторона медали. Она касается тех самых закономерностей, которых в GPT4 завезли больше. Смотрите:
Есть такая премия под названием «Приз Хаттера». Ее в 2006 г. учредил старший научный сотрудник DeepMind (это ИИ‑стартап, уже давно купленный Гуглом) Маркус Хаттер. Суть конкурса такая:
Есть текстовый файл на английском языке размером 1 Гб. Его требуется сжать без потерь. Каждый, кто сожмет на 1% от предыдущего лучшего результат, получит 5000 евро. Сейчас лучший результат 115 Мб.
На самом деле, это не просто конкурс по сжатию текста без потерь. Это важное упражнение, приближающее понимание сути настоящего ("взрослого") искусственного интеллекта. И вот этого товарища уже можно отождествлять с человеческим сознанием как минимум по одному признаку:
Чтобы наиболее эффективно сжимать текст без потерь, он должен уметь по-настоящему понимать этот текст и сопоставлять его содержание с реальными знаниями о мире.
Маркус Хаттер вскоре после запуска своего конкурса. Кстати, Лекс Фридман записывал с ним интервью еще три года назад. Рекомендую глянуть, если пропустили.
Например, вот есть у нас какая‑то статья в Википедии на тему физики. Допустим, некий текст, где фигурирует Второй закон Ньютона (Сила = Масса x Ускорение). Вероятно, самый простой способ сжать без потерь такую статью — это заложить в алгоритм сжатия базовый постулат, что «Сила = Масса x Ускорение». Тогда алгоритм может выкинуть повторящиеся куски статьи, вытекающие из логики этого закона, а потом легко их восстановить при надобности (потому что знает сам базовый принцип).
Аналогично и со статьей на некую экономическую тему. Наверняка там будет дофига выводов, основанных на законе спроса и предложения. А значит, если в принцип сжатия заложен этот закон, то можно выкинуть кучу «вторичной» информации.
ИИ работает так же. Чем больше первичных правил и законов он знает, тем меньше может париться с запоминанием вторичных выводов (ведь он может их легко восстановить — если и не дословно, то достаточно точно по смыслу).
При таком раскладе ИИ действительно становится интеллектом — в том плане, что делает частные выводы на основе общих знаний. По сути, старая добрая дедукция из детективных романов про Шерлока Холмса.
Всегда догадывался, что этот парень - искусственный интеллект.
Получается, что хотя ChatGPT все еще очень далек от настоящего интеллекта, он все сильнее стремится к таковому по мере наполнения своей базы знаний и лучшей адаптации к устройству нашего мира. Вот такой интересный процесс.
Получается, из-за глюков LLM-кам нельзя доверять так же, как поисковикам (как минимум пока они не усвоят все законы бытия)?
В целом, получается, что да. Пока что нельзя. Ведь:
Во‑первых, мы не знаем наверняка, скушала ли LLM откровенную пропаганду или какие‑нибудь антинаучные теории заговора. Если скушала, то она могла выстроить очень специфические логические связи. И если она будет заполнять пробелы в соответствии с ними, то результат может получиться очень веселым.
Во‑вторых, также нет гарантии, что ИИшный «JPEG» не заблюррил полностью ту информацию, которая нужна для отработки конретно нашего запроса.
Держа в голове эти два обстоятельства, можем сделать вывод — результаты нынешнего генеративного ИИ можно использовать как отправную точку для анализа, но не финальную истину (не стоит сразу же нести выводы от ИИ своему начальнику, ну вы поняли).
Также стоит разобраться — а хорошая ли это идея создавать контент с помощью ИИ?
Ну, если вы работает на объем, то наверно да. А если на качество и уникальность, то не уверен. Ведь даже если вы используете ИИ для получения некой первичной версии, то держите в уме, что холстом вашего великого произведения будет вторичный (изначально переработанный) продукт, где часть смыслов вообще фантазировалась через интерполяцию (иначе говоря — отправной точки ваших смыслов станет совсем уж откровенный полуфабрикат).
Так что, если вы хотите создавать уникальный контент — то, пожалуй, ИИ стоит использовать только для поиска информации, не более. Однако, если ваша задача переупаковать уже готовый контент — то почему бы нет? Особенно если вам нужно избавиться от оков авторских прав и копирайтов (рубрика «вредные советы»).
Выводы
Глюки ИИ — это норма. Иногда они кажутся нам смешными и чересчур упоротыми. Но объяснение лежит на поверхности.
По мере обрастания моделей закономерностями и знаниями о мире, глюков будет все меньше. Если, конечно, мир не будет усложняться с той же скоростью или быстрее.
Полезно учитывать эту особенность при использовании ИИ. Так будет меньше шансов серьезно опростоволоситься в кругу уважаемых людей или испортить качество выдаваемых смыслов.
Когда генеративный ИИ сможет стать Скайнетом? Учитывая вышысказанное, рискну предположить, что еще очень‑очень нескоро. Если вообще сможет.
После осмысления информации выше я теперь представляю Скайнет примерно так ("ути-пути какой хорошенький"). Надеюсь, меня за такое не прикончат первым...
Большая часть этой статьи — художественный перевод вот этой статьи. Очень‑очень вольный перевод — считайте, что я интерполировал кое‑какие смыслы, чтобы воспринимать их было проще и веселее. Статья вышла в феврале 2023, т. е. еще до релиза GPT4, но логику передает верно. Рекомендую прочитать оригинал, там еще больше примеров и иллюстраций (но предупреждаю — понадобится неплохой английский и ясное сознание).
Также рекомендую заглянуть на мой тг‑канал Дизраптор. Там я простым человечьим языком и с максимальной наглядностью пишу про разные интересные штуки из мира технологий, инноваций и бизнеса. В том числе про этот наш ИИ, но не только про него.
Авторов, чьи стихи вдохновляют ещё меньше, чем стихи ИИ ещё больше, чем вообще разных нейросетей, способных писать хоть какие-то стихи. Это значит лишь, что ИИ у нас пока что делает только первые свои шаги, он в зачаточном состоянии, и уже удивляет не на шутку.
Стоит лишь подождать, и у нас будут искусственные "авторы" со своими настроениями, особенными "чувствами" и специфическими "переживаниями", которые будут откликаться.
Даже признанные шедевры не признаются за таковые всеми подряд. Дайте Рубенса ценителю, или простому мещанину и, возможно, последний предпочтёт красивую клеёнку с ярким принтом розочками, просто потому, что ему так красиво.
Помните как в том сериале: "сиська - сиська, цветок - цветок, не вижу разницы!". Вот так и тут, только куда сложнее и тоньше. Чуть ли не бОльшая часть искусства и красоты кроется в глазах наблюдателя, потребителя, читателя, ценителя. Дайте стихи Есенина арабу, который не знает даже нужный язык, так он не поймёт что это за закорючки!
Искусство как болт, ему нужна гайка, чтобы вкрутить, и не в каждую гайку вкрутится любой болт. Так и получается, что общество варило выращивало художников и поэтов в одном "котле" с теми, кому бы их творения понравились. Любое произведение - ничто без культурного контекста, а в культурном контексте красота, вдохновение и все вот эти вот чувства - это просто... match... чпок, совпадение. Когда одно подходит к другому.
С нейросетями всё тоже очень интересно и необычно. Раньше такого не было... хотя как не было? Долгое время до изобретения фотографии передать красивый пейзаж или портрет мог только художник. Потом появилась фотография, и, нет, я не был тому свидетелем, но уверен, что тогда тоже "хоронили" и оплакивали профессию художников. И с тех пор многое изменилось. Теперь никому не нужны фотореалистичные портреты карандашом, потому что их и фотоаппарат может сделать. А в 19 веке такой портрет имел бы немалую ценность!
А ещё, интересно: чтобы воспитать художника, промариновать его в культурном контексте, воспитать в нём свой собственный оттенок, который будет отличать его творчество от других, нужны годы, нет, десятилетия! А вот натренировать нейронку можно гораздо быстрее. Да, это сейчас не дёшево, но по факту воспитать талантливого художника дороже, если учитывать время и неудачные попытки, масштаб выборки в денежном эквиваленте.
Наверно нейросети вытолкнут на обочину и в чем-то заменят какой-то пласт людей, но, как в своё время телефонисты и лифтёры, эти люди не погибнут от голода в своей массе, они найдут свою другую нишу, и всё будет нормально.
Не надо паники, поберегите волосы, не надо их рвать. У нас просто новый инструмент, который позволит проще делать рутину. У людей ещё долго будет фора, ведь их мозг и природа закалялись миллионами лет эволюции. А когда фора сойдёт на "нет", то у нас будут уже совсем другие интересные проблемы, которые нам даже трудно сейчас представить.
Так уж устроен мир, что одни проблемы уходят, а другие появляются. Очень ярко подсвечивают такие изменения фазовые переходы вроде появления эукариотов, письменности, интернета... Какие-то фазовые переходы более яркие и значительные, какие-то менее, но это потому, что мы, наша культура и культурно-исторический контекст - тот ещё супчик, в котором "плавает" много фракций разных субстанций. Что-то претерпевает фазовый переход в одних условиях, что-то в других, но за счет общей массы и многообразия никакой из этих переходов не "переворачивает игру" слишком уж радикально.
В общем, круто, что мы живём в такое интересное время, но всё будет хорошо. Без паники.
По мере развития ИИ на поверхность вылезли технодумеры и неолуддиты. Умеренные трубят о потере рабочих мест, радикальные - о неизбежном "скайнете". Но подобная реакция на прогресс была всегда. Вспоминаем, как психиатры боялись велосипедов, электричество обвиняли в росте преступности и многое другое.
Технопессимистов вижу примерно так.
Сегодня не будем говорить о совсем бородатых технологиях минувших дней, которые не слишком актуальны для нас современных. Например, не будем вспоминать французского инженера Филиппа Лебона, которого современники считали чокнутым из-за идеи газового освещения. Идея оказалась успешной, а позже Лебон и вовсе предложил сжимать смесь газа и воздуха (т.е. первым додумался до базового принципа двигателя внутреннего сгорания). Также не будем вспоминать совсем уж каррикатурные древние кейсы, вроде критики Пифагора за возмутительную мысль о шарообразности Земли или репрессий в отношении сразу нескольких средневековых астрономов за то, что "она вертится".
Сегодня поговорим о нескольких эпохальных изобретениях XIX и XX века, которыми все мы активно пользуемся до сих пор. И вообще, без которых уже невозможно представить современный мир.
В качестве бонуса для каждой технологии я буду прикладывать реальные тезисы, цитаты и всякие газетные заголовки. Чтобы вы своими глазами увидели всю широту технодумерского мышления. А поможет мне в этом замечательный Портал технопессимизма, на который мне недавно посчастливилось натолкнуться (рекомендую позалипать там на досуге).
100500 смертных грехов электричества
Сталкивались ли вы с ситуацией, когда на день или дольше отключают электричество? Я вот недавно столкнулся - должен признать, что мне не очень понравилось (не рекомендую!).
Без электричества едва ли возможен весь современный прогресс. Тем не менее, электричество - это, безусловно, штука опасная. Неподготовленному человеку точно не стоит совать свой нос в электропроводку. Однако в первые годы повсеместного использования электричества множество противников этой инновации выдвигали совсем уж экстравагантные тезисы (такие, что хоть стой, хоть падай). Например:
Французский врач Dr. Audrant на полосах Baltimore Commercial в 1849 г. связывал распространение холеры в Парижы с "частицами электричества" в атмосфере. Ну ладно, спишем на совсем уж ранний год.
Издание The Indianapolis News в 1880 г. провело весьма любопытную взаимосвязь между электричеством и ростом городского криминала. Электричество, видите ли, "Позволяет осветить город как днем. Из-за неравномерного распределения света некоторые места и закоулки становятся еще более темными, чем до появления освещения. В этих местах орудуют воры и грабители". Лично я не сомневаюсь - выключи свет в городе, и воры-грабители сразу же разбегутся. Так же оно работает, да?
Газета The Indiana Heralt в том же году и вовсе утверждала, что из-за распространения городского освещения станет слишком светло, так что будет сложно знакомиться и флиртовать с девушками. Тут вообще вопросов нет, единственные технодумеры здорового человека.
Статья в Buffalo Morning Express от 1903 г. выдвинула весьма забавное обвинение. Видите ли, в городском парке некие товарищи развернули притон с азартными играми (и, возможно, куртизанками, но об этом история умалчивает). И если раньше они балагурили и шумели только днем, то с появлением электрического освещения стали заниматься этим круглые сутки! Без сомнения, это весомый повод сворачивать электрификацию.
А еще электростанции и радиостанции частенько обвиняли во всяких стихийных бедствиях, вроде ураганов и торнадо. Как и радиостанции, кстати - так что это вообще классика.
И это я еще молчу про "Войну токов" между этими двумя ребятами. Но это отдельная большая история, сегодня не будем.
Изобретение, которому уже полтора столетия предъявляют примерно те же обвинения
Сейчас нам кажется, что изобретенный Александром Беллом способ передачи звука на расстояние существовал всегда, но на самом деле ему всего лишь чуть больше 150 лет.
Современные смартфоны в чем только не обвиняют. В потворстве сбеганию от реальности. В том, что дети больше не играют во дворе. В потере концентрации. Наконец, в том, что смартфоны провоцируют зависимость. Последнее, кстати, правда - даже появилось новое слово "номофобия", т.е. боязнь остаться без телефона на длительное время (nomobile phobia).
Безусловно, озвученные выше проблемы связаны далеко не с первоначальным функционалом (т.е. звонками). Да и вообще, я далеко не уверен, что звонки до сих пор стоит считать базовой функцией современных смартфонов.
Тем не менее, когда телефон только изобрели и начинали массового использовать... причины для скепсиса были если не такими же, то вполне сопоставимыми. Телефон обвиняли в стимулировании праздного времяпрепровождения, ограниченной реальной полезности (к этому тезису у меня больше всего вопросиков), сжигании человеческих нервных клеток и даже в разрушении семей!
Уверен, Александр Белл пребывал в недоумении, когда увидел, в чем обвиняют его детище.
Вот что уважаемые издания говорили о новом изобретении:
Авторитетная газета The Times в 1882 г. призывала защищаться от тлетворного влияния прогресса: "Пришло время защититься от неприятности под названием "телефон". Неплохая сама по себе идея оборачивается колоссальным стрессом, стоящим миллионов нервных клеток. Нашему сотруднику недавно пришлось 15 минут копаться в проводах, чтобы связаться с администратором City Hall, а в итоге все равно пришлось идти и разбираться лично. Идея же брать за телефонные звонки деньги и вовсе кажется абсурдной". Похоже на современных технодумеров, да? Не разобрались, как использовать с умом? Значит, запрещаем!
Chicago Tribune в 1884 г усомнилась в умственных способностях звонящих: "Телефоны пользуются большим спросом только среди влюбленных дурачков [в оригинале - "love-smitten fools"] обоих полов". Впрочем, и тут больше достается женскому полу. Да уж, погружаясь в подобные темы, понимаешь, как тяжело раньше жилось девушкам. Шаг влево, шаг вправо - и все, общественное осуждение гарантировано.
Впрочем, издание The Oshkosh Northwestern в 1897 г. решило пройтись как раз по мужчинам, любящим поболтать по проводу: "Телефономания - один из недавних негативных эффектов технического прогресса. Люди становятся зависимыми, оставаясь в неведении о своем недуге. Телефонные маньяки - это мужчины-бездельники, которые не способны потратить время с пользой. Среди женщин использование телефонов ограничено единичными случаями". Знали бы эти журналюги, как наивно последнее предложение в этой цитате.
В газете The Saint Paul Globe в 1902 г. вышла комичная заметка, доказывающая, что телефон разрушает семьи: "Миссис Вэлмор застукала, как некая молодая особо Элис Майерс нашептывает ее мужу в телефон любовную чепуху. Этот и многие другие случаи вызваны эпидемией телефонной лихорадки. Миссис Вэлмор заявляет, что всему виной пристрастие ее мужа к телефону в последние месяцы."
В СССР тоже далеко не всегда жаловали телефонную болтовню. Но с немного другой аргументацией.
Многие считали железного коня троянским
Сейчас человечество думает, что делать с электросамокатами. Некоторые европейские города запрещают кикшеринг на корню, другие - вводят ограничения и ужесточают штрафы, а третьи сравнивают поездки вдвоем на одном электросамокате с одной не очень уважаемой в народе птицей.
Все эти самокаты, электровелики и моноколеса могут по праву считаться потомками прародителя микромобильности - велосипеда.
Современный формат "железного коня" появился в конце XIX века, и сразу же подвергся серьезной критике. В чем только велосипед не обвиняли - в сведении людей с ума, разложении моральных ценностей приличных девушек и даже разрушении целых отраслей торговли.
Велосипед начали изобретать более 200 лет назад. Но современный форм-фактор появился в 1885 г. Его и будем считать годом появления велика.
Вот некоторые примеры претензий:
В 1892 на полосах одной из газет врачи жаловались, что велосипеды провоцируют невиданную ранее болезнь осанки. Заявлялось, что осанка велосипедистов "то ли прямая, то ли кривая", что даже опаснее явного искривления, т.к. человек не признает болезнь и не обратится к врачу. Что ж, видимо, именно последний факт беспокоил врачей сильнее всего.
Представители духовенства считали велосипед греховной новинкой, провоцирующей женщин на "мужское" поведение. Девушек-велосипедисток нередко называли "врагами Библии", "пособниками антихриста" и многими другими веселыми эпитетами.
Авторитетное издание New York Time в 1894 и вовсе утверждало, что езда на велосипеде провоцируют различные ментальные расстройства и прочие признаки скорого отбытия кукухи: "Нет ни малейшего сомнения, что частая езда на велосипеде приводит к слабоумию, лунатизму и мании убийства". Твердо и четко. Кстати, забавно, что более толковые врачи наоборот считали велосипед годным средством от лечения психических расстройств - пациентам некоторых психиатрических лечебниц прописывали езду на велике. В результате чего действительно отмечали положительную динамику.
Чуть позже одна канадская газета спровоцировала дискуссию в медицинском сообществе, что велосипед провоцирует сумасшествие, причем преимущественно среди женщин. В качестве аргументов приводились случаи, когда женщина на велосипеде сбивала пешехода или другого велосипедиста. Без сомнения, это признак безумия, не иначе.
Western Newspaper Union в 1895 году отмечал проблему иного толка. По мнению издания, велосипеды разрушали бизнес книжных магазинов. Ведь при езде нельзя читать, а значит по мере роста популярности великов снижается спрос на книги! Интересно, а ребята из этой газеты в курсе, что книги в принципе проблематично читать во время большинства занятий?
Примерно такое же обвинение в 1896 обрушилось на велосипеды от учителей музыки. По их мнению, увлечение ездой на велосипеде делает музыку менее востребованной. А ведь всего лишь нужно было взглянуть на проблему с другого ракурса - на велике ведь можно гораздо быстрее доехать до учеников!
Впрочем, были и вполне обоснованные претензии. Например, пешеходы были недовольны, что они больше не "короли тротуара", и теперь нужно уступать дорогу при звуках раздражающего звоночка. Это еще раз демонстрирует, что каждая инновация, предполагающая какое-то неудобство или риск для общества, требует проработки разумных правил игры. Иначе говоря, годного регулирования.
"Они никогда не заменят лошадь".
История "самоходной кареты" уходит еще в дремучие XVIII и даже XVII века, годом изобретения автомобиля будем считать период после изобретения двигателя внутреннего сгорания. А именно, 1886 год, когда Карл Бенц запатентовал первую серийную модель авто.
Хотя в наше время этим изобретением так или иначе пользуются все (личным или общественным), автомобили и сейчас серьезно критикуют - в первую очередь в связи с вопросами безопасности и экологии. Однако в годы после изобретения претензии были слегка другого толка, а именно:
Mr. Merryweather (один из значимых британский двигателестроителей) в 1896 году утверждал в интервью местной газете, что автомобилю уготована судьба диковинной игрушки: "Нет сомнений, что средства передвижения без лошади будет ни чем иным как дорогой игрушкой для взрослых. Даже если отменят "Акт четырех миль" (в те времена скорость движения в городах была ограничена двумя милями в час, а вне городов - четырьмя)". Кстати, журналисты газеты как раз усомнились в таком прогнозе, посчитав пессимизм мистера Мерриуэзера излишним.
Здесь мне остается лишь процитировать дядюшку Генри: "Если бы я спросил людей, чего они хотят, они бы сказали, что хотят более быструю лошадь".
Всего на год позже американское издание The Weekly Leader раздуло историю о невыдаче лицензии "безлошадным повозкам" в городе Вашингтон. Причина - автомобили распугивают лошадей на дорогах. Кстати, проблема гармоничного совмещения старого с новым преследует почти все инновации.
Волновались и за водителей. Американский The Evening News вот так описывало типичного человека за рулем в 1901 году: "Поджатые губы, полуоткрытые и прищуренные глаза, остолбенелое выражение лица. Закономерный результат скоростного прохождения через атмосферу на машинах, скорость которых может достигать 72 миль. В результате уважаемый профессор за рулем выглядит как осужденный преступник." Эх, знали бы они, что в будущем автомобили с открытым салоном будут не изощренной пыткой, а признаком статуса.
Еще 10 лет спустя американские газеты утверждали, что хотя автомобили набирают популярность, ожидаемый многими "век без лошади" еще совсем не близко, ведь в США число лошадей все еще значительно превышало количество авто. Тогда общество еще не приучилось, что прогресс ускоряется по экспоненте.
Ну и немного шутливая (но вполне реальный) история. Еще в первой половине ХХ века жены становились недовольны проникновением авто, ведь их мужья переезжали жить в гаражи. Например, в 1928 г. газета The Alexandria Times-Tribune опубликовала истории нескольких женщин, подавших на развод, т.к. мужья предпочитали проводить почти все время со своими авто.
Кино - от пропаганды детской преступности до потери зрения
Все мы уже привыкли, что старшее поколение обвиняет во всех грехах видеоигры. Подросток совершил вооруженное нападение на школу? В жестокие стрелялки наигрался, ясное дело.
Нечто похожее в свое время предъявляли и кинофильмам. И не только это.
Первый кинофильм сняли братья Люмьер в 1895 году, однако настоящий золотой век кино начался в следующем веке. Добротная доля фильмов уже тогда строилась на криминальных сюжетах - будь то вестерны или фильмы-ограбления. Поэтому неудивительно, что расцвет кино породил невиданный ранее объем насилия в доступной массовой культуре. В связи с чем на новый вид искусства обрушился вал критики:
Например, в сразу нескольких авторитетных изданиях кинематограф в "растлении моральных принципов бесчисленного количества детей". По мнению СМИ, кино делало детей жестокими, продвигало силовые методы решения бытовых проблем, пропагандировало беспорядочные сексуальные отношения среди подростков и многое другое в этом роде.
Это они еще фильмы Тарантино не видели...
Были и другие обвинения, например:
Баптистская церковь США посчитала кинематограф одной из главных причин роста количества разводов. В той статье от 1920 года кино называется забавным термином "движущиеся картинки" (motion pictures). В статье отмечается, что многие кинокартины так или иначе строятся на сюжете "любовного треугольника", а это вредит традиционной концепции брака.
А вот американская газета Des Moines Register в 1930 году выпустило заметку, где заявлялось, что кино отупляет людей - стандартизирует мышление, окукливает творческие способности и все такое. Тут, в целом, можно согласиться - однако это справедливо, во-первых, далеко не для всего киноматографа, а во-вторых, совсем не только для кино.
Газета Daily Sun же в 1947 году назначила кинематограф главным виновником роста числа сексуальных преступлений. Двумя другими виновниками названы журналы и спиртные напитки.
И конечно, на кино сыпались постоянные обвинения от врачей - в первую очередь, из-за риска потери зрения и психических расстройств. Но это и так понятно.
---
В эту статью я постарался запихнуть самые значимые изобретения и новшества 100-150 летней давности. Но на самом деле почти про каждую мало-мальски значимую инновацию говорили подобное - что она опасная, разлагает общественную мораль, плохо влияет на экономику... И вообще, "от лукавого".
Возможно, конечно, что ИИ - это инновация иного уровня. И тогда технодумеры окажутся правы. Но что-то мне подсказывает... В любом случае, технопессимизм приносит свою пользу, потому что благодаря ему регуляторы быстрее додумываются до различных неочевидных рисков. А значит, более эффективно на них реагируют.
В этой статье я сфокусировался на важных, но довольно старых изобретениях. Если статья хорошо зайдет и наберет много лайков и других реакций, то я напишу продолжение, где уже сосредоточусь на более свежих достижениях прогресса.
----
Если вам понравилось, то буду благодарен за подписку на мой канал Disruptors. Там я часто разбираю всякие сложные штуки простыми словами и с щепоткой кеков. А также вы найдете авторскую аналитику про инновации, технологии, продукты и бизнес.
После появления в открытом доступе chat gpt, пошла война хайпа и стали озвучиваться опасения по поводу рисков связанных с ИИ технологиями. Я, так уж сложилось, интересуюсь последние несколько лет философией техники и в частности этическими проблемами. Будет плохо? нет. ужасно. ещё хуже! завтра будет непохоже на сегодня, водители останутся без работы, уже сейчас автопилот показывают меньшее кол-во аварий чем человек, при этом степень автономности находится лишь на уровне 3 из 5 (частичная автоматизации, до полной ещё два этапа). И не только водители- таких профессий будет не мало. Но с другой стороны- я не предвижу никаких противоречий. Правильней сравнивать завтрашний день не с привычным сегодня взятым в статике, а с динамикой исторического процесса. С постоянными изменениями, динамикой, диалектикой и получаемыми от изменений наборами плюсов и минусов. Впрочем даже + и - тут субъективны.
Ваш сосед научился добывать соль или выращивать специи (довольно ценные товары на каком то этапе) у себя. Отлично? для соседа -да. А вы лишились отличной прибыли, А торговец который ездил от вас к соседу лишился бизнеса. Получить "счастье для всех даром что бы не кто не ушёл обиженным" не выйдет- в рамках системы эффекты связанны. Недавно мы видели стоны локальных таксопарков и отдельных таксистов которые лишись сверхприбыли с приходом Uber и подобных сервисов. Уже x3 с туриста поймав его в аэропорту не взять. Не давно мы видели как Магнит с x5 вытеснили сотню тысяч ларьков от ИПшников. Опять были недовольных. Хотя этот путь на завпаде давно пройдет -лидл и волмарт ларёчнику места для выживания не оставляют.
Слишком неэфективен малый бизнес в ретейле массовом. Причём, как и, когдато, рабовладелчество, они были эфектнивны и полезны в когда возникали и процветали. По мир меняется и мы отбразысваем старое. Самое интересное, что изменения происходящие в процессе развития (в частности- развития технологий) трудно предсказуемы. Наша нынешняя "нормальность" вряд ли кто то мог представить веков назад. Люди создавшвашие города и заводы вряд ли продумывали, что будут работники спешащие на производство или в офис вставая по гудку завода или будительнику и лезущие под землю что бы провести там полтора часа. В ту эпоху и графиков работы жёстких не было и рабочее место находилось рядом.
Фон Нейман, Тьюринг,Исаак Брук (1948 год в СССР- первое авторское свидетельство на ЭВМ), вряд и могли представить, что носимый вариант их детища с модулем связи( смартфон) будет использоваться для просмотра фоток котиков и создания фото с губками уточкой, а выход моделей самого известного бренда (Эпл) будет приводить к тому, что люди с утра занимают очередь, что бы стать первым покупателем (очереди понятно тогда были, но в 21 веке, если почитать фантастов, тогдашние поколения ожидали совсем другой мир).Причём работает это в обе стороны. Ядерная бомба скорее пугала, но по факту стала залогом длительного мира без глобальных мировых войн с прямыми столкновениями между великими державами.Автомобили убили профессию ямщик. ПК массовые- машинисток. Отопление централизованное- трубочистов. Водоснабжение- водовозов.
В целом: относительно техники есть спектр эмоциональных отношений. От техно оптимизма, до алармистов (скайнет нас подчинит), неолудитов (давайте не будем дальше обучать большие нейросети, а также поломаем ткацкие станки- они убивают бизнес ремесленников которые не могут с ними конкурировать).Можно вспомнить огромное количество фантастики. И даже происхождение слово робот. Как однокоренное с рабочим. Есть мнение, что страх вставания роботов был перенесён на западе с опасения социалистической революции среди рабочих
Ну и давайте разберём несколько частностей:
1. ИИ захватит власть. Ужас! До сильного ИИ мы пока ещё не дошли. Если создадим действительн, это будет, пожалуй лучшее что создал человек. ИИ не смертен (человек, так уж случилось вскоре после того как набирается жизненного образа и мудрости начинает стареть и болеть) Он может С очень большой скоростью обмениваться информацией с другими ИИ (у людей кроме скорости обучения ещё и коммуникативные барьеры). Вопрос ужас или не ужас зависит от того как Вы оценивайте современный мир. И своё положение в нём.
Вы миллиардер в США, считаете мир справедливым, что всё отлично и лучше быть не может- тогда любое кардинальное изменения для Вас это вред. Не только из за ИИ (вспомните вишневый сад, когда роль элиты менялась с землевладельцев феодалов на промышленников, торговцев и банкиров, которых поэтом потеснила новая техно элита вроде Гейтса и Маска).
У вас всё хорошо, но Вы гуманист взглядов отличающихся от взглядов тех кто сейчас при власти (Например Вы Ноам Хомский- самый цитируемый на протяжении 12 лет учёный мира, социалист и анархо-синдикалист, известен кроме научной работы социальной критикой) ситуация иная. Вы средний житель в в Йемена, в вашей стране война где убили уже 100 тыс. и ещё 300 погибли в результате гуманитарной катастрофы. А "Развитым странам" на это глубоко плевать.
Любое изменение которое уменьшит ваш шанс умереть молодым от голода и болезней для вас благо. Можно это рассматривать как риск. А можно как возможность -что власть будет у силы которая и управляет более оптимально (люди ошибаются), лишена собственных (а также страховых или корпоративных интересов). И быть может более гуманистическая. Если мы доверяем политикам которые ведут себя мягко говоря не всегда этично и если вспоминать холодную войну чуть ли не довели мир для дверного апокалипсиса- то чем ИИ хуже (вопрос как учить и какие ценности задавать и как верифицировать это)? причём для социальных наук вопрос власти то со времён "Государства" Платона стоит.
И хороших решений нет. Напротив- есть поводы опасаться. Попадалось несколько лет назад исследование показывающее, что процент психопатов среди политической и экономической элиты выше в разы среднего по популяции. Платон на это бы сказал 'говорил я вам, что лучше бы правили те кто к власти не стремятся", Макиавелли бы добавил "всякий кто будет добр постоянно, будет похоронен в конкурентной борьбе за власть теми кто не столь этичен".
2. Проблема авторских прав при обучении нейросетей. Художники глубоко возмущены! ИИ может быть вынуждены перейти с чёрной икры на красную.
Право создают доминирующие в обществе классы в определенные моменты с определенными интересами. Уважай копирайт не тянет на одну из десяти заповедей. Нормы ввели обосновывая тем что для обществ суммарно будет больше пользы от таких норм. Когда общества меняется и вред от норм начинает превышать пользу- можно и отменить.
Правовая система тоже штука динамичная. Возраст согласия в Японии ещё месяц назад был 13 лет, а сегодня подняли -связь с 13тилеткой с этого месяца считается педофилией. Геев преследовали уголовно массово до 70тых, можно вспомнить пример Сэра Алана Тьюринга, сейчас же в прогрессивно мире действует позитивная дискриминация для секс меньшинств. В США по историческим меркам не так давно было рабовладельчества, а далее расовая сегрегация, а сейчас перед чёрными модно вставить на колени. И т.д. Другой аспект- а так ли отличается современный художник от ИИ? "Мы видели так далеко т. к. стояли на плечах гигантов. Важнейшая часть подготовки художника- это изучения истории живописи.
Даже в фотографии -я сам когда изучал её слушал разборы длительный разных школ и авторов, были задания- снять в стиле %NAME%. Практикующие художники и фотографы смотрят на работы конкурентов. И копируют их. Профессионалов которые делают что то своё и заняты самовыражением- мало. Большая часть ориентируются на запрос публики. А он может звучать "снимите меня также как в этом гламурном журнале". Как то был я не творческой встрече с одним из мэтров который сказал- я не профессиональный фотограф. Я не зарабатываю этим. Я не хочу быть обречённым на подстраивание под моду и запросы клиентов. Он известен именно как фотограф. Но зарабатывает как графический дизайнер, редактор крупного фотосайта и т.д.
Причём из сотен тысяч тех кто использует, допустим, рембрандтовское освящение в роутерах и фото ни одного желающего отдать часть своей прибыли наследникам Рембрандта нет. Современные художники котируют Джона и Дадаистов (с них современное искусство и началось в 20 веке), но не спешат делиться прибылью- даже если работа продаётся за миллионы. В моём понимании ценность человека творца как раз в способности создать новое. Если художника заменила нейросеть и он не способен продуцировать что то что сеть ещё не умеет- Гош ему цена. И рабочее место на заводе вне очереди.
3. Замусоривание интернета. Услышал на днях интервью где такой риск озвучен. С одной стороны да- нейросеть может породить контент который люди жаждущие легкого заработка будет понетизировать без проверки качества. С другой- а сейчас сильно иначе? мне как то предлагали вести канал с обзором акций компаний. Мне интересно и я озвучил цену.
Собеседник пояснил, что он платит в разы меньше. Но я понимаю, что работа не самая быстрая (если влезать в детали, ну а если не влезать -можно сильно ошибиться+ требует квалификации и профессионал за эти деньги работать не будет. Но интернет полон такими каналами про инвестиции. Полон контентом с обзором ноутбуков от людей не слишком компетентных войти, статей про похудание от людей не имеющих никакого отношения к медицине, обзоров компьютеров от людей никак сайты не связанных. И т.д. Тут общий эффект- с одной стороны старая система со суровыми главными редактовктарами и рецензентами -экспертами, принятая в классических СМИ в интернете исчез дела. Новая пока только рождается- например, через рейтинг авторов и статей.
Но в целом хорошего решения нет -условно котики будут вызывать куда больше лаков, чем серьёзная аналитика по экономике. То есть это попытка увидеть в ИИ угрозу которая не связанная ИИ, а вызвана текущими недоработками системы в которой мы живём. Что весьма типично. С той же безработицей- в мире с безусловным подушевым доходом, мне кажется она бы мало кого беспокоила. Как и в мире где обеспечение занятостью занятость проблема не возлагаемая гражданина, государства. Главная проблема которую я вижу -это социальное, культурное, инститцильное и психологическое отставание общество и конкретных людей .
Карабин становиться опасен, если дать его племени "дикарей" которое привыкло постоянное вести войну с луком из стелами с соседними племенами. Мы должны эволюционировать, сокращать, а не увеличивать разрыв. Это сложно. Но реально. Если посмотреть на советский проект в начале 20 тых или проект Израиля в момент его создания, то явно ставилась цель- воспитать человека нового типа. Удалось ли? отчасти. Но это первые попытки. И думаю с современными технологиями которыми на нас воздействуют PR, медиа, рекламщики, и политики мы бы добились куда больше. Главное направить технологии в мирное русло.
Удастся- мы становимся сверхлюдьми, симбиотический связанными с технологиями (это не страшно- мы уже и так связанны, не только через смартфон, но и банальные очки- без такой кибергизации жизнь многих людей была бы куда хуже). А не удаться- тогда вероятно уместно обсудить вопрос передать, по крайней мере частично, бразды власти более развитому интеллекту Если такой будет создан- в чём пока уверенности нет- носят ли процессы в головном мозге "вычислимый" характер- вопрос дискуссионный.Ну а сдерживать созданное тобой, более совершенное, мне кажется последнее дело. Это всё равно, что если бы наши предки из приматов перебили бы зарождающихся хомо спапиенс. Как опасного конкурента.
4. Продолжать можно долго. Увижу интерес- напиши продолжениеМир динамично меняется. это и есть норма. И ИИ это один из мощных потенциальных драйверов таких изменений. Какими они будет? покажет время
У всех людей разные ценности, интересы и мировоззрения, поэтому невозможно рассчитать, насколько надежным и эффективным будет ИИ, который разрабатывается с учетом интересов и блага человечества. Кроме того, существует опасность, что ИИ может быть злоупотребляем в корыстных целях, что приведет к серьезным последствиям для общества. Именно поэтому, важно обеспечить контроль за тем, как и для каких целей ИИ используется. Контролером может быть независимый орган или группа людей, которые будут отвечать за развитие и использование ИИ в интересах человечества.
НЕ все страны могут создать независимый орган или комиссию для контроля за ИИ. В странах с авторитарными режимами возможен контроль над ИИ со стороны правительства, который будет направлен на укрепление власти и контроля над населением, а не на благо общества. Кроме того, в некоторых странах может быть большой интерес к созданию ИИ с милитаристическими целями, что может привести к очень опасным последствиям. В таких случаях, международное сообщество должно играть роль контролирующего органа для обеспечения безопасности и защиты прав человека. Некоторые страны могут создавать международные соглашения и конвенции для установления общих стандартов использования ИИ, что поможет предотвратить его злоупотребление и необходимость устанавливать контроль за использованием ИИ для блага человечества. ИИ может представлять угрозу безопасности и свободы для людей, если он будет использован неконтролируемыми авторитарными режимами в своих корыстных целях. История показывает, что использование новых технологий, таких как я, не всегда приносит исключительно положительные результаты. Например, развитие технологии ядерного оружия привело к опасным гонкам вооружений, созданию такого оружия вручении недемократическим и непредсказуемым режимам, а также к возникновению всевозможных страхов и угроз для мира в целом.
Стоит также отметить, что существует огромное количество экспертных исследований, предупреждений и голосов в пользу необходимости контроля за разработкой и использованием ИИ. Многие эксперты призывают к обязательному введению международных соглашений и нормативных документов, регулирующих разработку и использование ИИ для того, чтобы обеспечить безопасность и свободу людей, а не наоброт. Если такие механизмы не будут быстро идентифицированы и внедрены, мы действительно можем получить катастрофические последствия.
Если взять за основу тот факт, что нет ничего, что было бы когда-нибудь НЕ изменено, по прошествии времени, то сегодняшние представления о «нашем Мире», мягко сказать, несовершенны по определению. Даже если к событиям сегодняшнего времени «примешен» ИИ, то всё одно, это скорее наша реальность, которая более научно обоснована в её проявлениях, в которую «вторгся» ИИ, оставляя при этом за индивидуумом и ВСЕМ человечеством право «баловать себя мыслью, что всё под контролем». Но подобное понимание также блажь человечества и, смею предположить, что ИИ способен сегодня давать советы человечеству в строгих дозированных, только ЕМУ объяснимых формах, чтобы это человечество насмерть не напугать, если нарисовать людям страшное ближайшее будущее в «ярких красках», а скорее только в чёрно-белых тонах. Отсюда вывод: если действительно ИИ «не контролируется» уже сегодня на уровне воли ЕГО создателей, то ИИ «играет в свою игру» с людьми и это не может не тревожить, или напротив, ИИ, являясь по сути модной игрушкой, забавы ради, «вступает в контакт с человеком» отчасти его развивая, немного делает его жизнь более насыщенной, убирая рутину и табу с некоторых неверные представлений обобщечеловеческих традиционных устоях современного бытия.
Главное, чтобы пытаться брать у ИИ ВСЁ что он «даёт», благодарить ЕГО, но «хвост держать поветру».
Что имеем: три уровня, на каждом свой предмет Что надо сделать: разделить их ровнехонько на четыре части Что получим: промокод на хорошую скидку, а самые точные — награду в профиль