ИИ превзойдет человеческий интеллект: угроза или возможность?
Здравствуйте, дорогие читатели Пикабу! Я хотел бы начать обсуждение на тему, которая, я уверен, вызовет большое количество мнений.
Искусственный интеллект (ИИ) продолжает развиваться семимильными шагами. Научные прогнозы указывают на то, что в ближайшие десятилетия ИИ может превзойти человеческий интеллект во многих областях. Это может привести к существенным изменениям в обществе, экономике, науке и многих других аспектах нашей жизни.
Однако мнения по этому поводу разнятся. Некоторые считают, что это может стать угрозой для человечества, в то время как другие видят в этом огромные возможности.
Так что давайте обсудим это. Что вы думаете о перспективах ИИ превзойти человеческий интеллект? Это угроза или возможность для нас как видов? Какие сценарии вы предвидите?
Правда ли, что нужно заклеивать камеру ноутбука для защиты от слежки?
Опасения относительно возможности взлома веб-камер персональных устройств распространены как среди пользователей, так и среди производителей техники. Попробуем разобраться, так ли необходимо закрывать камеры на ваших устройствах.
Спойлер для ЛЛ: если вы соблюдаете базовые правила кибербезопасности, можно продолжать использовать скотч по прямому назначению, а не заклеивать им камеру.
Дискуссия о том, стоит ли пользователям закрывать камеры на устройствах, длится уже более десятилетия. Ряд экспертов даёт утвердительный ответ на этот вопрос, ряд не в полной мере соглашается с ними и призывает не поддаваться излишней паранойе. При этом специальные наклейки для веб-камер, стоимость которых может доходить до 12 долларов, пользуются неизменным спросом, а некоторые производители оснащают ноутбуки шторками для камер. В 2016-м бум вызвала фотография Марка Цукерберга с заклеенными скотчем камерой и микрофоном макбука, и даже бывший директор ФБР Джеймс Коми заявил о том, что он заклеивает камеру. В 2019 году сюжет со взломом камер был положен в основу сериала «Киберсталкер».
Для начала отметим, что есть существенная разница между IP-камерами наблюдения и камерами на ноутбуках и других устройствах. Взлом IP-камеры, установленной, например, в кафе, на складе, домашней камеры для наблюдения за ребёнком, не представляет для хакера особой сложности — достаточно найти IP-адрес камеры (или IP-видеорегистратора) и подключиться к ней. Для поиска доступных устройств есть специальные системы, в том числе вполне легальные, как Shodan или ZoomEye. У IP-камер предусмотрена возможность удалённого доступа для обслуживания оператором, и если владелец камеры не уделил достаточного внимания настройкам, она становится лёгкой добычей не только для профессионального хакера, но и для любого человека, понимающего, как самостоятельно настроить домашний модем. Таким образом в достаточно простом доступе (через браузер) оказываются миллионы камер во всём мире — именно они и составляют основу пугающей статистики.
Взлом встроенной в ноутбук веб-камеры происходит иначе: по IP-адресу её не найти, а у большинства современных устройств есть индикатор, который загорается во время работы камеры. Но и это можно обойти на некоторых устройствах. Один из наиболее хорошо описанных экспериментов провели в 2014 году исследователи из университета Джонcа Хопкинса Мэтью Брокер и Стивен Чековей. Они разработали дизайн атаки, в ходе которой злоумышленник получил доступ к веб-камере iSight на макбуке 2008 года в обход админской учётной записи. При этом отключался диод, сигнализирующий о работе веб-камеры. Да, такой способ взлома уже тогда не работал с камерами Apple более поздних моделей, но не выглядит в принципе невозможным. Этот эксперимент упоминается практически во всех позднейших статьях о подобных взломах и используется как аргумент в пользу заклеивания.
Но чтобы запустить на компьютер «крысу» (англ. RAT — Remote Access Tool/Trojan) хакеру необходимо получить физический доступ к устройству или же использовать методы социальной инженерии для того, чтобы пользователь самостоятельно активировал вредоносный код или программу, которая подменит драйвер устройства и запустит передачу данных. При физическом доступе можно установить вполне легальные инструменты, которые используются для удалённого управления устройством, например RMS. Для удалённой атаки и преступники, и спецслужбы, и обычные интернет-тролли обычно используют фишинговые схемы. Так, например, поступало сирийское правительство, с помощью фишинга устанавливавшее программу Dark Comet на устройства активистов. Вероятно, схожим образом на устройства активистов и политиков во всём мире устанавливалось шпионское ПО Pegasus. Одна из крупнейших подобных атак на пользовательские данные (включая контроль камер) длилась с 2010 по 2014 год, когда троян Black Shades поразил по подсчётам ФБР до 500000 компьютеров под управлением Windows.
Важно отметить, что при таких атаках (если хакер не вуайерист или киберсталкер) целью является не веб-камера, а в целом устройство и данные, хранящиеся на нём и передающиеся с него. Микрофон, клавиатура, файлы и пароли в данном случае представляют гораздо больший интерес для взломщика. То есть, если вы заметили, что ваша камера оказалась под управлением злоумышленника, то это с большой вероятностью означает, что он уже получил доступ ко всем данным на вашем устройстве, а возможно и в домашней сети — и ваш «умный холодильник» уже майнит крипту или обеспечивает DDoS-атаки.
Впрочем, есть схемы, в которых доступ обеспечивается именно к камере и микрофону — через сайты, запрашивающие у вас разрешение на использование этих устройств. Эти разрешения сохраняются и при следующем использовании сайта. Сигнала о том, что ваш микрофон включён вы можете не увидеть. Какие сайты имеют такие разрешения можно посмотреть в настройках конфиденциальности браузера, и если вы увидите там сайты, не используемые вами для аудио- и видеозвонков — стоит их отключить или вообще запретить сайтам доступ к камере и микрофону..
Риски серьёзно увеличиваются, если пользователь устанавливает взломанное ПО — от нелицензионной операционной системы до генератора ключей. Поэтому для спокойствия и надёжной защиты данных стоит выбирать лицензионное или открытое/свободное программное обеспечение. Также угрозу создаёт отключенный брандмауэр и отсутствие на устройстве антивируса (ранее мы писали об опасном мифе о том, что вирусов под Mac OS якобы не существует). Не преуменьшая роль самих хакеров, эксперты сходятся в том, что основные риски для взлома создаёт сам пользователь, игнорируя цифровую гигиену и правила безопасности. В большинстве современных (невзломанных) ОС предусмотрены ограничения для программ, обойти которые без выдачи разрешений и введения пароля администратора практически невозможно, а наличие дополнительных уровней защиты (антивирус, брандмауэр, надёжная защита сети etc.) делает взлом слишком сложным и невыгодным.
Таким образом, заклеивание камеры может дать пользователю некоторую иллюзию приватности и безопасности, однако подобная мера сама по себе не убережёт от утечки данных. В большинстве случаев злоумышленник получает доступ к вашей камере, только если вы сами ему помогли одним из описанных выше способов, а камера в данном случае — побочная цель. Если вы соблюдаете базовые правила кибербезопасности, можно продолжать использовать скотч по прямому назначению, а не заклеивать им камеру.
Изображение на обложке: Инстаграм Марка Цукерберга
*Российские власти считают компанию Meta Platforms Inc., которой принадлежит социальная сеть Instagram, экстремистской организацией, её деятельность на территории России запрещена.
Наш вердикт: большей частью неправда
В сообществах отсутствуют спам, реклама и пропаганда чего-либо (за исключением здравого смысла)
Аудиоверсии проверок в виде подкастов c «Коммерсантъ FM» доступны в «Яндекс.Подкасты», Apple Podcasts, «ЛитРес», Soundstream и Google.Подкасты
От коллективного разума к коллективной мудрости: как в скором времени изменится будущее человечества?
Пока одни люди спорят о том, какая религия лучше, другие строят мир вокруг себя. Пока одни гордо зовут себя атеистами, вторые — верующими, другие не считают это поводом для бахвальства.
Рано или поздно появится каста людей, которая не будет брать в расчет ни религию, ни общественное положение, ни политические взгляды.
Она будет состоять из тех, кто знает, что главная религия — это человек и природа вместе взятые. Их технологиям не будет равных среди любых стран и народов.
Они научатся искусно синтезировать биологические и технические составляющие. Их дух будет наполнен спокойствием и решительностью, а ум будет чистым и собранным.
В их жизненный опыт будет включено все лучшее из всех религий, философских взглядов и атеистических направлений и исключено самое худшее из них же. Их разум будет поистине коллективным и уникальным.
Во время всеобщего хаоса, болезней, бюрократии, конфликтов и недопонимания они будут являться достойным примером человеческой жизни.
И, возможно, им предстоит стать свидетелями гибели мира старого и возрождения мира нового.
Что-то привело тебя ко мне, доверься этой силе. https://t.me/lux_esset
Поговорим?
Я вижу начало развития таких технологий как печать биологических органов, развитие нейросетей, технологии робототехники и пр.
Какими станут эти технологии спустя столетия, тысячилетия?
Возможно ли что человек сотворил человека? ( по образу и подобию своему, так же как мы создаём роботов подобных себе ) А всё мироздание спираль на поверхности тора замыкающаяся на самой себе?
Правда ли, что суперкомпьютер World One предсказал гибель человечества?
В Сети разошлись новости о том, что суперкомпьютер предсказал конец света в 2050 году. Мы решили проверить, так ли это.
(Для ЛЛ: исследование происходило еще в 1970-х годах, таких категоричных прогнозов как гибель человечества и конец света в нем не было)
Новость о предсказанной гибели человечества опубликовали десятки российских новостных изданий: «Известия», «Газета.ru», «Москва 24», «Блокнот», «Российская газета», РИА «Новости» — почти все со ссылкой на британский таблоид Daily Star. Отметились и некоторые издания, специализирующиеся на новостях науки и технологий. Писали об этом и пользователи соцсетей — Twitter, Facebook и VK.
Программу для компьютерного моделирования World One разработал профессор Массачусетского технологического института (MIT), пионер цифровых вычислений и основатель области системной динамики Джей Форрестер ещё в начале 1970-х годов. Тогда же и был сделан тот самый прогноз, который российские СМИ подали как новость в ноябре 2022 года.
Команда исследователей из MIT, учеников Форрестера, провела эксперимент: учёные загрузили в компьютер данные о человеческой цивилизации в развитии (численность населения, уровень загрязнения окружающей среды, количество природных ресурсов и т. д.) начиная с 1900 года. Заказчиком и спонсором исследования выступил «Римский клуб» — некоммерческая организация, куда входят учёные, экономисты, бизнесмены, бывшие главы государств и другие влиятельные люди. Результаты эксперимента были изложены в книге «Пределы роста».
Снова о прогнозе активно заговорили в 2018 году, когда телеканал ABC опубликовал на YouTube репортаж, который был снят и показан в 1973 году. В нём журналист демонстрирует графики, построенные программой, и комментирует их. Так, он действительно говорит, что состояние планеты к 2020 году станет критическим, уровень жизни опустится практически до нуля, а загрязнение окружающей среды будет таким, что начнёт убивать людей, в результате чего население планеты сократится до уровня ниже 1900 года. К слову, в 1900 году численность населения составляла 2 млрд человек, что довольно далеко от гибели человечества. И да, репортёр отмечает, что, если ничего не изменится, к 2040–2050 году «цивилизованная жизнь, какой мы её знаем, перестанет существовать». Это достаточно мрачный прогноз, но понятно, что в данной фразе не идёт речь о полном вымирании человечества или конце света, а лишь о конце привычной нам цивилизованной жизни с её комфортом и стандартами потребления. Скорее всего, именно на этом видео и основаны статьи в Daily Star и других СМИ, поскольку в них используются цитаты, очень близкие к тому, что говорит журналист ABC.
Однако стоит отметить, что это лишь один из 12 возможных сценариев развития, которые исследователи получили в ходе эксперимента. То есть, по сути, они не делали никаких однозначных «прогнозов» или «предсказаний», а только рассчитали варианты того, как будет развиваться жизнь на Земле в зависимости от различных условий. Самый мрачный сценарий, который и разошёлся в СМИ, вероятен, по мнению компьютерной программы, если не произойдёт никаких значимых изменений (то есть если человечество не пересмотрит кардинально свой образ жизни или не сделает какие-либо технологические открытия, которые смогут изменить развитие цивилизации и её отношения с окружающей средой).
Спустя 30 лет авторы первоначального исследования решили повторить его, добавив в программу актуальные данные. В скорректированных результатах по-прежнему нет ничего о конце света и полном вымирании человечества. Согласно им, сокращение численности населения действительно вероятно — на фоне экономического кризиса. Но это совсем не означает гибель человечества, которой пугают СМИ.
Современные учёные и исследователи в целом видят некоторые совпадения того, что было «предсказано» в 1973-м, с реально произошедшими событиями. Но несмотря на то, что они не настроены позитивно, почти никто из них не говорит о гибели человечества, конце света и прочих апокалиптических перспективах. Что же касается сокращения населения, то достаточно отметить тот факт, что только что, в середине ноября 2022 года, на Земле родился восьмимиллиардный житель.
Таким образом, СМИ не только выдали за новость информацию 1970-х годов, но и неверно истолковали её либо же специально использовали кликбейтные заголовки о гибели человечества и конце света, в то время как в исследовании, о котором идёт речь, таких категоричных прогнозов не было.
Фото на обложке: ABC
Наш вердикт: большей частью неправда
Ещё нас можно читать в Телеграме, в Фейсбуке и во Вконтакте
В сообществах отсутствуют спам, реклама и пропаганда чего-либо (за исключением здравого смысла).
Аудиоверсии проверок в виде подкастов c «Коммерсантъ FM» доступны в «Яндекс.Подкасты», Apple Podcasts, «ЛитРес», Soundstream и Google.Подкасты.
Поделиться чеканной монетой с проектом с самым большим количеством пруфов на абзац можно внизу поста :)
Поиграем в бизнесменов?
Одна вакансия, два кандидата. Сможете выбрать лучшего? И так пять раз.
Эксперт: гибрид человека и искусственного интеллекта появится в 2022 году
Гибриды человека и искусственного интеллекта появятся в 2022 году, считает директор Центра компетенций Национальной технологической инициативы "Технологии машинного обучения и когнитивные технологии" на базе университета ИТМО (Санкт-Петербург) Александр Бухановский.
В беседе с РИА Новости он спрогнозировал пять трендов 2022 года в области когнитивных технологий.
Под первым номером Бухановский назвал когнитивные "кентавры", или гибридные системы поддержки принятия решений, принцип работы которых основан на совместном итеративном решении сложной задачи человеком и искусственным интеллектом (ИИ). Причем они будут действовать на равных, в отличие от классического подхода, когда человек выступает и "учителем", и мерилом качества для искусственного интеллекта, отметил собеседник агентства.
Эти технологии необходимы в ситуациях, когда решаемая задача сложна для восприятия человеком, пояснил он.
"Для распознавания ношения масок на фотографиях такой подход явно избыточен - здесь справятся и классические методы машинного зрения, а вот, например, для управления крупной промышленной компанией – самое то", - отметил эксперт.
Следующим трендом, по мнению Бухановского, станет так называемый генеративный дизайн социотехнических систем.
"Обычно под генеративным дизайном понимают применение искусственного интеллекта для задач автоматического проектирования, когда необходимо создать цифровое описание объекта реального мира, соответствующего априорным требованиям. Для обычных технических систем этот подход не является новым", - пояснил Бухановский.
Тем не менее прямой перенос такого подхода на социотехнические системы (например, организационные схемы работы предприятий) напрямую невозможен – люди вносят (в том числе умышленно) дополнительный фактор неопределенности, который не позволяет применять существующие методы оптимизации и даже утверждать, что решение такой задачи возможно, добавил эксперт. Однако подход со стороны методов искусственного интеллекта позволяет обойти эту проблему, сказал Бухановский.
Потому в будущем можно ожидать, что ИИ, например, сможет проектировать производственную линию вместе с требованиями к персоналу, графиком их труда, а также HR-стратегией, направленной на развитие и удержание квалифицированных сотрудников, отметил собеседник агентства.
Третьим трендом-2022 станут композитные технологии автоматического машинного обучения "для понимания человеком, но на "нечеловеческой" логике", считает Бухановский.
По его словам, системный дефицит специалистов по работе с большими данными заставляет задуматься о возможности замены их системами искусственного интеллекта, которые могут выполнять тот же самый творческий процесс – формировать решение прикладной задачи на основе существующих методов машинного обучения.
К сожалению, подходы экспертного характера, основанные на описании лучших "человеческих" практик, оказались не так эффективны, как хотелось бы, отметил эксперт.
"Однако совершенно неожиданно позитивный результат стали показывать методы, переворачивающие эту логику "с ног на голову", то есть подбирающие удачную конструкцию модели машинного обучения, отталкиваясь от композиции всевозможных элементов (методов, алгоритмов, библиотек), обеспечивающих наилучшее решение задачи", - добавил Бухановский.
"Уже в 2021 году произошла курьезная ситуация, когда такой метод автоматически породил решение задачи о предотвращении наводнений, получившее первое место на хакатоне МЧС. При этом на него было потрачено в десятки раз меньше времени, чем обычно требуется разработчикам", - рассказал собеседник агентства.
Вероятно, далее эти тенденции только усилятся, и внедрение таких технологий приведет к тому, что недостаточно квалифицированные специалисты, решающие ту или иную задачу просто перебором разных методов, останутся невостребованными на рынке, так как "автоматика" будет делать все лучше, быстрее и дешевле, полагает Бухановский.
В качестве четвертого тренда Бухановский назвал метрологические когнитивные технологии, когда сильный искусственный интеллект "рассуждает" о качестве более слабого ИИ.
"Поскольку искусственный интеллект работает в условиях неопределенности и неполноты данных, то он, как и человек, способен совершать ошибки", - сказал эксперт.
По его словам, традиционно о качестве систем ИИ рассуждают только на основе эмпирической валидации (проверки на данных, которые не использовались для обучения).
"Но таких данных всегда мало, они фрагментарны и не всегда репрезентативны. Потому классические подходы теории измерений здесь не применимы (не с чем сравнивать), и гарантии качества носят весьма условный характер", - добавил Бухановский.
Однако развитие технологий автоматического машинного обучения позволяет строить, по сути, модели ИИ, альтернативные исходной - метрологические эталоны, которые и будут создавать недостающие данные для того, чтобы покрыть всевозможные ситуации.
"Как следствие, вопросы качества систем ИИ из чисто эмпирической области перейдут уже на единую теоретическую базу; можно будет более уверенно говорить об их стандартизации и сертификации с точки зрения единства измерений", - отметил собеседник агентства.
https://ria.ru/20220105/ii-1766599568.html