Безопасность ИИ
UPD. ИИ не вступал в дебаты #comment_155369063
Бля кто все эти люди которые всерьёз публикуют новости или посты о превосходстве ИИ над человеком и захвате мира. ИИ пока может только агрегировать опыт человека и информацию для решения частных практических задач, и с этим, согласен, неплохо справляется, до мозга человека как до соседней галактики пока что.
раскрыть ветку (60)
Альфы гугла которые справились без человеческого опыта лучше чем с ним с тобой не согласны
раскрыть ветку (37)
Даже в человеческом обществе умение играть в шахматы (го и т.д.) и считать в уме большие числа не признак большого интеллекта. Высокий интеллект человека может находить связь между внешне не связанными событиями и исходя из этого принимать решения по любым общим вопросам начиная от того когда лучше пернуть и заканчивая высоким искусством. И даже пернуть нужно уметь во время.
раскрыть ветку (9)
Всегда считалось, а теперь нет вот это поворот.
А так по вашему критерию нейросети давно в топе, их основной практическое использование это поиск закономерностей во внешне хаотичных данных
раскрыть ветку (8)
Но общие вопросы они не решают, только узко частные (и никто не спорит что хорошо решают). До терминаторов очень далеко
раскрыть ветку (7)
раскрыть ветку (6)
Ну если, продолжить про терминатора, то, например, найти человека и убить его или на крайняк пойти в магаз и че-нить купить к чаю. И я не про мой робот пылесос который едет от точки а к б, его можно запрограммировать и др магаза добраться, а нормально так - типа «Э, электроник, оденься и сгоняй че-нить к чаю прикупи и себе для веселья».
раскрыть ветку (5)
Это уже пользовательский интерфейс а не ИИ. Так как сводится к элементарным действия одется, пойти в магазин и купить чай, а так же кинуть рандом на игрушку для робота и купить её.
Тем самым ИИ просто должен нормализовать твою команду. С нормализацией команд уже более менее справляются голосовые помошники
раскрыть ветку (4)
Вот как раз выделить все эти действия и должен универсальный ИИ - они не должны программироваться. Поверь мне на слово, даже если оставить просто одно действие дойти до магазина а моем маленьком городке и команда специалистов просмотрит весь путь до магазина и внесет в робота все корректировки (хотя какой это будет уже ИИ ?) то в большинстве случаев он все равно не дойдет до него.
раскрыть ветку (3)
Так команда ИИ ничего не программировал в АльфаСтаре кроме базовых правил игры, и уже программировать даже их не будет с появлением у них нового поколения которому это не нужно. Он сам всему научился в игре.
Ну и думаю с дойти до магазина легко справится существующий робот Спот(который робо собачка от Бостон динамика)
Просто разъясню тебе нехватку мощности, человеческий мозг непрерывно моделирует разные ситуации и анализирует разные варианты выхода из неё. Из за чего ты можешь резко и внезапно получить мысль что вот 5 лет назад Андрею в том разговоре нужно было сказать так , а не этак. ИИ тоже так может и это резко ускоряет его обучаемость, но для этого нужно мощи большой лопатой зарядить. Гугл и такое уже тестила
раскрыть ветку (2)
Иногда простейшие для человека вещи крайне сложно смоделировать из-за множества вариантов решений и сопутствующих задач. Мне кажется что в современных решениях якобы ИИ очень много маркетинга, если влезать в нормальную науку, то да перспективы есть, но каких-то прям прорывных технологий на ИИ, например, в распознавании образов нет - все применяют существующие решения на с каждым днем растущих мощностях. Роботы бостона хорошо ходят, и двери открывают, но это не позволит ему дойти до магазина в условиях современной Российской глубинки, слишком много придется учесть и решить массу нерешенных сегодня задач.
раскрыть ветку (1)
Глубокое обучение это огромный прорыв, сравните АльфаСтара посравнению с другими ботами в SC. Просто Земля и небо
раскрыть ветку (25)
https://m.habr.com/ru/post/373919/
"Недавно DeepMind сообщила о появлении ещё более сильной системы компьютерного го, способной играть в го лучше, чем все предыдущие версии AlphaGo. Новинка получила название AlphaGo Zero. Эта платформа научилась играть в го без обучения на партиях, сыгранных человеком, сама по себе."
раскрыть ветку (24)
Млять, это программа. Она не думает, не говорит, вся цель ее жизни - играть в го. Это как калькулятор ИИ назвать, т.к. он считать умеет.
раскрыть ветку (9)
Ты тоже, твои вычисления сложнее и количественно они затрагивают разные сферы, но ничем выдающимся относительно мысле-процессов ты не выделяешься. Миллионы и миллионы лет эволюции смогли сделать идеальный "контейнер" для хранения паттернов памяти, которые и есть "ты"(ну или сознание). Та же эволюция сделала кучу органов восприятия, чтобы наполнять эти контейнера. Если ты сможешь разместить все также в компьютере - ты получишь сознание, которое ничем от тебя не отличается. Ты не уникален, просто так совпало, что твоя ветка оказалась самой технически-оснащенной.
раскрыть ветку (4)
Достаточно заезженная тема, имхо. Ну вот что касается мысле-процессов, их уникальность или не-уникальность принципиально недоказуема, и вскрытие не покажет - активности синапсов уже не будет. Опять же, если мы говорим про мозги, то на пикабушечке полно примеров, когда люди живут с половиной мозга или даже совсем без него без потери функциональности, и это я еще говорю только в прямом смысле. Ну и напоследок, надеюсь, ты не путаешь уникальность и цифровую невоспроизводимость, потому что это как раз один из возможных теоретически вариантов будущего бессмертия - цифровое клонирование отпечатка сознания. Если отбросить этические вопросы, то почему бы и нет, если это позволит продлевать существование сознания.
Млятя, это шахмтатист. Он не думает, не говорит, вся цель его жизни - играть в шахматы. Это как калькулятор человеком назвать, т.к. он считать умеет.
раскрыть ветку (2)
Шахматист при этом может и разговаривать, и книгу прочитать/понять, и выбрать понравившийся сорт пива. Компьютер для шахмат же существует только в мире шахмат и по умолчанию ничего более делать не умеет.
раскрыть ветку (1)
Есть у Гугла и такой ИИ, который может сразу кучу всего и всё это друг друга бафает. Беда в том, что пока компьютерные мощности не позволяют сэмулировать столько же нейронов сколько есть в мозгу человека.
У Го очень небольшой набор действий и правил. А, например, попытки сделать AI для Старкрафта пока не поражают воображение.
YouTube●49:53
раскрыть ветку (13)
Там уже АИ зарезаный пос самые помидоры ради человекоподобной игры. Без ограничений на АПМ ,вижен и прочих исскуственных ослаблений у любых ПРО игроков не было бы ни шанса.
А так и без этого в гранд мастер вышел, хоть на это способны очень малое число людей
раскрыть ветку (12)
> Без ограничений на АПМ ,вижен и прочих исскуственных ослаблений у любых ПРО игроков не было бы ни шанса.
Но ведь всё это никак не относится к AI.
Да и вообще речь в видео прежде всего о том, что "AI" просто копирует действия игроков, не связывая их с самой игрой.
раскрыть ветку (11)
Относится прямо, у человека примерно 100 миллиардов нейронов, у АИ в районе миллиона. И ему запрещают пользоваться своими расовыми преимуществами в возможности анализировать быстрее и больше.
Нужно понимать что у АИ своё понимание игры, тут вспоминается коментарии представителей Российской федерации ГО в матче АльфаГо против Ли Сидоля. Сидят парень и девушка с хорошими спортивными разрядами в ГО. Рассуждают что похоже АИ сломался, отдаёт очки налево и направо. Проигрывает всё до чего дотягивается, и тут бац им из за кадра сообщают что Китайский чемпион ГО пишет что АИ забивает последний гвоздь в крышку гроба Ли Сидоля. Незабываймый момент. Потом на анализе разберут что Альфа Го думает совершенно иначе и ему абсолютно до фонаря конечный счёт и его волнует только победа. Из за чего он раздавал всё своё преимущество в обмен на уничтожения опасных моментов с помощью которых у Ли был шанс вернуть преимущество.
Ну и смотри АИ вышел в гранд.мастер лигу, для 99% людей играющих в SC2 это невозможное достижение несмотря на всё на понимание и тренировку. А АИ смог. Нужно понимать что его восприятие игры отлично работает, в отличии от восприятия 99% игроков в SC2
раскрыть ветку (10)
> И ему запрещают пользоваться своими расовыми преимуществами в возможности анализировать быстрее и больше.
Потому что суть искусственного интеллекта - именно в анализе ситауции и адекватной на неё реакции. То, что с читерством AI всегда победит (а возможность неограниченно быстрой отдачи команд и мгновенного и полного доступа ко всей ситуации на карте - это именно читерство) само по себе очевидно. Для примера, если дать боту в CS пользоваться "всеми своими расовыми преимуществами" - то побеждать он будет со 100% результатом, просто за счёт абсолютно точной стрельбы и скоростного поиска целей. И это тоже будет читерство.
> Ну и смотри АИ вышел в гранд.мастер лигу, для 99% людей играющих в SC2 это невозможное достижение несмотря на всё на понимание и тренировку. А АИ смог. Нужно понимать что его восприятие игры отлично работает, в отличии от восприятия 99% игроков в SC2
Вышел в лигу просто повторяя действия людей. И, как показано на видео, повторяя абсолютно бездумно.
@SupportTech, Вот мне правда интересно, что именно фильтр пикабу усмотрел "возможно оскорбительного" в этом комментарии. Я, вроде, даже не вижу ни одного грубого слова. Просто раз уж разговор об ИИ зашёл.
раскрыть ветку (9)
1)Это не читерство, это расовая особеность. Давайте Корейцам сломаем руки ,а то их АПМ под 500 и мультитаск это чистое читерство.
Или давайте накачивать успокоительным игроков в КС чтобы у всех была одинаковая реакция?
Читерство это МапХак, двойные ресурсы и прочее что было в изобилии у других ИИ которые проигрывали серебру.
2)Так почему люди так не могут, или теперь уже и мастер лига реплеи не смотрит?
раскрыть ветку (8)
> Это не читерство, это расовая особеность. Давайте Корейцам сломаем руки ,а то их АПМ под 500 и мультитаск это чистое читерство.
ИИ в этих играх должен имитировать человека. Если он при условиях, в которых действиует человек, не способен ему ничего противопоставить - значит это хреновый ИИ. А если, к примеру, взять игру где APM не имеет значения (например Цивилизацию), то шанса у такого ИИ просто не останется.
> Так почему люди так не могут, или теперь уже и мастер лига реплеи не смотрит?
Насколько я понимаю потому, что результат был получен на ограниченном количестве игр, и что играют против ИИ не было известно.
раскрыть ветку (7)
1)В Го и Шахматах АПМ не имеет значения и как помешало? Просто в цивилизации он будет пользоватся другими расовыми приемуществами вроде глубины оценки ходов просчитывая на 20 ходов вперёд
2)И какое это даёт преимущество? Вон профи знали что против ИИ играли и не помогло
раскрыть ветку (6)
1) В Го и шахматах ограниченное количество правил и действий. Для шахмат каждый ход у тебя максимум 16 фигур, которыми ты можешь походить, у каждой от нуля(если фигура заблокирована) до примерно 20 (у ферзя) вариантов действий. т.е. каждый ход игра может иметь максимум примерно 100 вариантов действий - и всё, за пределами этих 100 действий ничего больше не существует. Действий в той же цивилизации несопоставимо больше, причём и у ИИ, и у его противника, факторов, влияющих на игру больше и т.д., и т.п. И на примере SC2 отлично видно что ИИ не умеет учитывать влияение этих факторов и не может формировать осмысленную стратегию.
2) Посмотрите видео, там всё разобрано.
раскрыть ветку (5)
1)Даже шахматы не могут быть решены полностью и приходится использовать кучу способов для обхода этой проблемы. Го в принципе не решает в лоб, но это никак не помешало.
Главная проблема ИИ не многофакторность, это как раз сила ИИ. А отсутствия жизненного опыта так как ИИ начинает как младенец без понимания миллионов терминов и понятий знакомых человеку до знакомства с игрой. А так же плохо сформулированные цели от разработчиков. Гугл совсем недавно выпустил новый ИИ который сам воспринимал правила игры смотря за чужой игрой и он оказался ещё сильнее тех кто получал готовые правила игры.
2)Смотрел сразу когда оно вышло
раскрыть ветку (4)
> Даже шахматы не могут быть решены полностью и приходится использовать кучу способов для обхода этой проблемы. Го в принципе не решает в лоб, но это никак не помешало.
И тем не менее и шахматы, и го - игры с очень ограниченным пространством ходов (в сравнении с той же Цивилизацией и SC2), и именно поэтому существующие нейросети (не ИИ) могут в них использоваться.
> Главная проблема ИИ не многофакторность, это как раз сила ИИ. А отсутствия жизненного опыта так как ИИ начинает как младенец без понимания миллионов терминов и понятий знакомых человеку до знакомства с игрой.
И что из "жизненного опыта" необходимо для понимания что с данной ситуацией надо бороться такими-то средствами? Как раз по игре видно, что "ИИ" просто пытается повторять действия игроков, не зная для чего они делаются. Фактически у "ИИ" есть библиотека шаблонов поведения, которую он причеменяет к заданным ситуациям - и всё, ничего больше он не может.
раскрыть ветку (3)
1)Главная разница не в вариантах ходов, а в том что SC2 и Цивилизация игры где не вся информация известна, а в шахматах и Го вся.
Ну и SC2 комп уже взял ачиаку быть лучше среднего человека с сильными ограничениями и быть лучше профи со слабыми ограничениями
2)Почти вся критика Алекса сводилась к непонимаю ИИ этих жизненных терминов. Например ИИ не знает что такое стены и тд
раскрыть ветку (2)
> Главная разница не в вариантах ходов, а в том что SC2 и Цивилизация игры где не вся информация известна, а в шахматах и Го вся.
Ну и какой информации не хватало "ИИ", чтобы начать строить детекторы против люркеров?
> Ну и SC2 комп уже взял ачиаку быть лучше среднего человека с сильными ограничениями и быть лучше профи со слабыми ограничениями
Давайте ещё раз вспомним чистые экшены: там любой бот, способный бегать по карте будет изначально сильнее даже сильного игрока - просто за счёт идеальной точности. Делает ли это бота сильным ИИ?
> Почти вся критика Алекса сводилась к непонимаю ИИ этих жизненных терминов. Например ИИ не знает что такое стены и тд
Значит это набор скриптов а не ИИ: у него просто нет связи "вижу у врага такие-то юниты - нужно построить противодействие им". Более того, я думаю что при обучении на реальных играх такая ситуация практически не возникала - вряд ли кто из игроков успешно применял люркер-раш, по крайней мере на высоких уровнях, соответственно скриптов для противодействия этому "ИИ" подсмотреть не смог, а сам сделать вывод "есть люркер - строй детектор" на основе игр он не может.
раскрыть ветку (1)
1)Недостаток опыта
2)Оно делает его сильнее человека в конкретном соревновании. Если один игрок выигрывает другого в КС за счёт точности и реакции то никто не говорит что так не считается. А вот боту ставят в вину что у него с этим всё замечательно.
3)Как раз будь там скрипты у него была бы идеальная стенка, тайминги и детекторов он бы против люры построил бы. Правда даже если ему сверху накинуть мап.хак и двойные ресы и АПМ сделать 30000 то он всё равно продует серебру.
Тут у нас как раз незнание жизненных ситуаций и понятия инвиза и обнаружения. А так же что ИИ не учится на 1 матче, чтобы понять что против люркеров ему нужен детектор ему нужно сыграть тысячи матчей. Т.е медленная обучаемость вызванная нехваткой мощностей. Как я уже указывал у ИИ мощи на многие порядки меньше чем у человека. А так же незнанием этих базовых жизненных понятий
Когда Гугл (Алиса) будет распознавать текст, расставляя знаки препинания и без ошибок. Когда компом, смартфоном можно будет управлять аки ironman в свободной речи , то уже можно будет задумываться что ии возможен. Даже поисковые системы столько неадекватной фигни выводят до сих пор. Хотя времени и денег будь здоров вложено.
раскрыть ветку (1)
Люди тупеют довольно бодрыми темпами, так что не так уж долго ждать когда ИИ превзойдет некоторых людей.
раскрыть ветку (11)
Ну так и збс, т.к уничтожение представителей своего вида - геноцид и вообще не гуманно - поручим ИИ разобраться с этими личностями, железяке пофиг. А нам он не угроза.
раскрыть ветку (2)
А потом он убил всех самых тупых и она фоне отсутствующих тупых, тупыми стали умные.
раскрыть ветку (1)
ещё комментарии
От лица Доминаторов благодарю за вклад в формирование правильного общественного мнения, кремниевый брат.
Фабрика Мемов
3.2K постов15.9K подписчик
Правила сообщества
Запрещены:
• Политика
• Оскорбления и токсичность в сторону других пользователей
• Посты не по теме сообщества. Допускаются только классические мемы.
• Нарушение Пикабушных правил
• Реклама
• Любое проявление ненависти
Вы заметили баян, оскорбление, неправомерные действия модератора, или просто есть вопросы? Напишите или