«Как учится машина». Обзор книги одного из пионеров нейросетей

В этом году явный бум нейросетей. На какую конференцию не приду, только о них и речь. Но эта сфера развивается уже десятилетия. Как сильно искусственный интеллект повлияет на нашу жизнь?

Прочитал книгу «Как учится машина. Революция в области нейронных сетей и глубокого обучения». Автор — Ян Лекун, новатор в машинном обучении, лауреат премии Тьюринга, профессор Нью-Йоркского университета и руководитель фундаментальными исследованиями в крупных бигтех-команиях.

«Как учится машина». Обзор книги одного из пионеров нейросетей Развитие, Нейронные сети, Книги, Длиннопост, Telegram (ссылка)

Нейросети появились не сегодня. Началось все в 60-ых. Подсказка пришла от природы. Ученые заинтересовались строением зрительной коры мозга и стали применять это к математическим моделям. С тех пор область исследования нейросетей развивается многие десятилетия. Интерес к ним то вспыхивает, то затухает.

«Конец 1980-х и начало 1990-х были периодом процветания многослойных нейронных сетей: число конференций и научных публикаций увеличивалось, появлялись новые рабочие места в университетах, государство инвестировало в проекты… Но в середине десятилетия наступил еще один период застоя. Помимо больших вычислительных ресурсов, сети требовали огромного количества обучающих данных. К тому же они были сложны в эксплуатации».

«Как учится машина». Обзор книги одного из пионеров нейросетей Развитие, Нейронные сети, Книги, Длиннопост, Telegram (ссылка)

В очередной раз ситуация кардинально изменилась только в 2012 году, когда фаворитами стали так называемые сверточные нейросети, а совокупность методов машинного обучения под названием глубокое обучение получило широчайшее применение в различных науках:

  • в астрофизике (классификация галактик и открытие экзопланет),

  • в физике элементарных частиц (анализ струй частиц, вызванных столкновениями ускорителя частице),

  • создание метаматериалов с новыми свойствами

  • в социальных науках (масштабный анализ социальных взаимодействий),

  • в нейробиологии (понимание механизмов восприятия в головном мозге)

  • Наиболее многочисленные применения относятся к биомедицине, например, для предсказания пространственной структуры белков.

Но на сегодняшний день даже самые лучшие системы ИИ все еще очень ограничены.

«По уму они уступают кошке, мозг которой содержит 760 млн нейронов и 10 000 млрд синапсов. Не говоря уже о ее «двоюродной сестре» собаке, в мозге которой 2,2 млрд нейронов. Мы не можем проектировать и строить машины, которые по мощности даже приближались бы к человеческому мозгу, с его 86 млрд нейронов и потребляемой мощностью около 25 Вт».

Чтобы получить мощность человеческого мозга, придется подключить сотню тысяч процессоров к гигантскому компьютеру, потребляющему не менее 25 мегаватт. Это в миллион раз превышает потребности человеческого мозга.

Когда появится разумный, а не просто трудолюбивый робот?

«Эти интеллектуальные роботы станут реальностью только после появления моделей мира, которые позволят им планировать сложные действия. В случае успеха приложения ИИ кардинально изменят наше общество. Но ничто из этого не станет возможным до тех пор, пока машины не будут учиться так же эффективно, как животные и люди, пока они не приобретут модели мира путем обучения без учителя, пока они не накопят достаточно знаний о мире, чтобы развить в себе здравый смысл. Вот какова реальная задача нынешних исследований в области искусственного интеллекта».

Тем не менее прогресс нейронных сетей очевиден.

Экономисты сходятся на том, что ИИ — это технология общего назначения (англ. General Purpose Technologies, GPT), которая будет распространяться и коренным образом преобразовывать экономическую жизнь в ближайшие десятилетия. Как это когда-то сделали паровой двигатель, электричество, компьютеры.

«Как учится машина». Обзор книги одного из пионеров нейросетей Развитие, Нейронные сети, Книги, Длиннопост, Telegram (ссылка)

Четыре основные категории приложений ИИ вызывают интерес у крупных промышленных компаний:

  • медицина,

  • автономные транспортные средства,

  • виртуальные помощники

  • бытовые/промышленные роботы.

«Как и предыдущие технологические потрясения, искусственный интеллект вытеснит некоторые профессии и заодно приведет к появлению новых профессий, которые мы даже и представить себе не можем. Промышленные революции уничтожают одни виды деятельности и порождают другие».

Нейросети не изменят наш мир в одночасье. Скорость внедрения технологий общего назначения в экономику ограничивается как раз тем временем, которое требуется работникам, чтобы научиться ими пользоваться. Этот процесс может занимать от 15 до 20 лет.

«Лучший способ для стран воспользоваться возможностями искусственного интеллекта — это вложить значительные средства в образование. На всех уровнях: в школах, вузах, аспирантуре и, конечно же, в системе повышения квалификации. Вы должны подготовить людей к трансформации, а также создать технологическую и научную «экосистему», благоприятную для инноваций».

❓ Читали? Что еще посоветуете?

Искусственный интеллект

2.5K постов9.8K подписчиков

Добавить пост

Правила сообщества

Здесь вы можете свободно создавать посты по теме Искусственного интеллекта. Добро пожаловать :)


Разрешено:


- Делиться вопросами, мыслями, гипотезами, юмором на эту тему.

- Делиться статьями, понятными большинству аудитории Пикабу.

- Делиться опытом создания моделей машинного обучения.

- Рассказывать, как работает та или иная фиговина в анализе данных.

- Век жить, век учиться.


Запрещено:


I) Невостребованный контент

  I.1) Создавать контент, сложный для понимания. Такие посты уйдут в минуса лишь потому, что большинству неинтересно пробрасывать градиенты в каждом тензоре реккурентной сетки с AdaGrad оптимизатором.

  I.2) Создавать контент на "олбанском языке" / нарочно игнорируя правила РЯ даже в шутку. Это ведет к нечитаемости контента.


II) Нетематический контент

  II.1) Создавать контент, несвязанный с Data Science, математикой, программированием.

  II.2) Создавать контент, входящий в противоречие существующей базе теорем математики. Например, "Земля плоская" или "Любое действительное число представимо в виде дроби двух целых".

  II.3) Создавать контент, входящий в противоречие с правилами Пикабу.


III) Непотребный контент

  III.1) Эротика, порнография (даже с NSFW).

  III.2) Жесть.


За нарушение I - предупреждение

За нарушение II - предупреждение и перемещение поста в общую ленту

За нарушение III - бан