Почему программисты не могут понять ИИ

Серия Размышления про ИИ

Часто встречаю среди программистов скептическое отношение к перспективе развития ИИ. “Я прекрасно понимаю как это все работает, поэтому точно знаю, что ничего нового в этом нет и ничего нового оно породить не может. Что в него заложено, то он и будет повторять.” - примерно так они формулирует свое мнение.

Действительно, софт, который используется для обучения и работы ИИ является далеко не вершиной сложности компьютерных программ. Я бы даже сказал, что он довольно примитивен. Работа ИИ представляется простым складывании и умножением цифр. Просто цифр много и это порождает некоторые технические сложности. Это видит и понимает программист.

Проблема в том, что программист не видит того, что стоит за этими примитивными расчетами. 

И это не является чем-то особенным. Программист видит изменения в базе данных, но он не видит за этими изменениями финансовые мошенничества, изменения климата, ухудшение здоровья пациента, близость компании к финансовому краху. Это все видят совершенно другие специалисты, которые часто не имеют отношения к ИТ сфере.

Программист не видит, что примитивные расчеты являются весьма сложной математической моделью мира и процесса осмысления его человеком. Программист не видит, что ИИ порождает новые знания, точно так-же как, например, климатическая модель мира порождает знание о том, что будет в случае взрыва мощного вулкана.

Правила сообщества

ВНИМАНИЕ! В сообществе запрещена публикация генеративного контента без детального описания промтов и процесса получения публикуемого результата.


Разрешено:


- Делиться вопросами, мыслями, гипотезами, юмором на эту тему.

- Делиться статьями, понятными большинству аудитории Пикабу.

- Делиться опытом создания моделей машинного обучения.

- Рассказывать, как работает та или иная фиговина в анализе данных.

- Век жить, век учиться.


Запрещено:


I) Невостребованный контент

  I.1) Создавать контент, сложный для понимания. Такие посты уйдут в минуса лишь потому, что большинству неинтересно пробрасывать градиенты в каждом тензоре реккурентной сетки с AdaGrad оптимизатором.

  I.2) Создавать контент на "олбанском языке" / нарочно игнорируя правила РЯ даже в шутку. Это ведет к нечитаемости контента.

  I.3) Добавлять посты, которые содержат лишь генеративный контент или нейросетевой Арт без какой-то дополнительной полезной или интересной информации по теме, без промтов или описания методик создания и т.д.


II) Нетематический контент

  II.1) Создавать контент, несвязанный с Data Science, математикой, программированием.

  II.2) Создавать контент, входящий в противоречие существующей базе теорем математики. Например, "Земля плоская" или "Любое действительное число представимо в виде дроби двух целых".

  II.3) Создавать контент, входящий в противоречие с правилами Пикабу.


III) Непотребный контент

  III.1) Эротика, порнография (даже с NSFW).

  III.2) Жесть.


За нарушение I - предупреждение

За нарушение II - предупреждение и перемещение поста в общую ленту

За нарушение III - бан

Вы смотрите срез комментариев. Показать все
3
Автор поста оценил этот комментарий

Всё верно. Программист не видит всех последствий "ИИ" - потому что большая часть этих последствий зависит не от самого ИИ с его реальными возможностями, а от магического восприятия его широкой публикой. Да, для оценки этого нужен не специалист по нейросетям и "большим языковым моделям", а скорее психиатр и социолог)


Хорошая часть новостей в том, что любая "магия" рано или поздно рассеивается, завышенные ожидания разочаровываются, и начинается обычное применение технологии.


Плохая часть - в том, что слишком хорошая технология может слишком долго казаться "магической панацеей", чтобы успеть наделать ошибок из-за ложных надежд.

раскрыть ветку (5)
0
Автор поста оценил этот комментарий

потому что большая часть этих последствий зависит не от самого ИИ с его реальными возможностями, а от магического восприятия его широкой публикой.

70 лет до этого магического восприятия небыло и тут вдруг оно появилось! А может дело в том, что пользы никакой до этого небыло, а сейчас появилась?

раскрыть ветку (4)
1
Автор поста оценил этот комментарий

70 лет про ИИ только фантасты писали, и все понимали - это сказка, там и роботы мыслят, и рыбки говорят. Настоящую магию видели поближе, например в телевидении, которое заменит театр, кино и путешествия.


А сейчас выкатили Миджорней с ЧатомЖПТ, и все такие - "Вау, сказки-то не врали! Вот сейчас ещё немного допилят, и будет всё по щучьему велению! Скажу - дворец построят, скажу - песни со сказками насочиняют, скажу - сделают Василису Силиконовую для женихательства, и чтобы складывалась в виде лягушки до карманных размеров. И всё - не нужны мне людишки больше, они мерзкие и воняют!".


Помните сказку про Дикого помещика, всех мужиков разогнавшего и пряниками питавшегося? Мечтали о таком всегда, а возможность реализации вот только-только замаячила. Только конец всё равно предсказуем)


Помните, как при начале всемирной эпидемии страшного, смертельного вируса нам из каждой щели шептали, что "Привыкайте! Настала новая реальность! Новая нормальность! Мир никогда не станет прежним!" И что по факту? На улицах стало чуть больше курьеров, кучка офисных крыс осталась работать из своих норок по удаленке. Кое-кто получил опыт "учебной пожарной тревоги", оценив степень послушания населения, последствия разрыва логистических цепочек и вывода части населения из активной экономической жизни, и посчитал их условно приемлемыми.


Мир, конечно, поменялся - но не больше, чем стиранные после очень сильного испуга штаны. Где-то стал чище, где-то, увы, грязнее, но в целом такой же, как был до или вместо инцидента. Почему с ИИ должно быть по другому?)

раскрыть ветку (3)
0
Автор поста оценил этот комментарий

Представьте, что китаец, придумавший порох, рассказывает согражданам, что все из-за пороха изменится. И один воин с огнестрелом будет сильнее целой армии с копьями и мечами. Большинство считает это фантазиями, но когда звучит первый выстрел из пушки уже до всех доходит, что это не фантазии и нужно бросать все силы на создание огнестрельного оружия.

70 лет говорили про ИИ, но небыло “выстрела из пушки”. И вот сейчас не просто выстрел, а бомбит по всем направлениям. Уже ясно, что ничем это закончится не может. Генеративные нейронные сети уже захватывают рынок.

раскрыть ветку (2)
0
Автор поста оценил этот комментарий

Скорее не китаец с порохом, а англичанин с пулемётом, который может положить целую армию и сделает дальнейшие войны самоубийственными и невозможными. А войны как были при луках и мечах, так и при танках с ракетами остались. Декорации меняются, мир остаётся.


Можно подойти радикально и выпилить из мира наблюдателя - но если в пустом лесу падает дерево, то звуковые волны всё равно возникают и распространяются. В мире поменяется 0.000000001%, для удаляемого наблюдателя исчезнет 100% мира, все (никто тоже часть множества "все") счастливы. Хотя это тупиковый путь.


Сейчас генеративные сети делают контент быстрее, но хуже человека. Допустим, они делают на уровне человека по качеству и больше по объёму - это просто обесценит результат работы и человека, и сети. Больше объем - меньше ценность, меньше ценность - ниже стоимость, ниже стоимость - меньше качество, меньше качество - ниже ценность, когда ценность падает ниже минимальной стоимости производства, сокращается объем. Но сокращение объема не повышает ценность автоматически, если он упал вместе с потребностью - то объем может упасть до полного нуля. И только потом случайно вернувшаяся мода может начать разгонять спираль ценность-качество-объем. В результате можно на ровном месте получить деградацию вместо развития.


Главная проблема в том, что людей можно заменить роботами хоть на 100%, но если это приводит к сокращению людей в целом, то теряется смысл в замене - их можно просто уничтожить, без промежуточной возни с роботами. Но если у кого-то возникает такая потребность, то ещё проще уничтожить его самого - он останется без людей, а люди без него.

0
Автор поста оценил этот комментарий

Скорее не китаец с порохом, а англичанин с пулемётом, который может положить целую армию и сделает дальнейшие войны самоубийственными и невозможными. А войны как были при луках и мечах, так и при танках с ракетами остались. Декорации меняются, мир остаётся.


Можно подойти радикально и выпилить из мира наблюдателя - но если в пустом лесу падает дерево, то звуковые волны всё равно возникают и распространяются. В мире поменяется 0.000000001%, для удаляемого наблюдателя исчезнет 100% мира, все ("никто" тоже часть множества "все") счастливы. Хотя это тупиковый путь.

Вы смотрите срез комментариев. Чтобы написать комментарий, перейдите к общему списку

Темы

Политика

Теги

Популярные авторы

Сообщества

18+

Теги

Популярные авторы

Сообщества

Игры

Теги

Популярные авторы

Сообщества

Юмор

Теги

Популярные авторы

Сообщества

Отношения

Теги

Популярные авторы

Сообщества

Здоровье

Теги

Популярные авторы

Сообщества

Путешествия

Теги

Популярные авторы

Сообщества

Спорт

Теги

Популярные авторы

Сообщества

Хобби

Теги

Популярные авторы

Сообщества

Сервис

Теги

Популярные авторы

Сообщества

Природа

Теги

Популярные авторы

Сообщества

Бизнес

Теги

Популярные авторы

Сообщества

Транспорт

Теги

Популярные авторы

Сообщества

Общение

Теги

Популярные авторы

Сообщества

Юриспруденция

Теги

Популярные авторы

Сообщества

Наука

Теги

Популярные авторы

Сообщества

IT

Теги

Популярные авторы

Сообщества

Животные

Теги

Популярные авторы

Сообщества

Кино и сериалы

Теги

Популярные авторы

Сообщества

Экономика

Теги

Популярные авторы

Сообщества

Кулинария

Теги

Популярные авторы

Сообщества

История

Теги

Популярные авторы

Сообщества

Недвижимость и ремонт

Теги

Популярные авторы

Сообщества