5710

Нейросеть, застывшая в стекле

Нет, это не безделушка из серии «муха в янтаре». Группе учёных из университета Висконсина, Массачусетского технологического и Колумбийского университетов удалось реализовать искусственную нейронную сеть, распознающую цифры, в виде микроскопической стеклянной пластинки. Для работы ей не требуется ни электропитание, ни подключение к каким-либо другим устройствам — фактически это автономный аналоговый компьютер, который будет работать до тех пор, пока сохраняется его целостность.

Искусственные нейросети состоят из множества синтетических нейронов, которые активируются, если совокупная величина сигналов на их входах превышает некое пороговое значение. Нейроны соединены между собой связями, имеющими определённые весовые коэффициенты (т. е. вклад одних сигналов в срабатывание функции активации — больше, а других — меньше).


Чтобы создать аналогичную структуру в стекле, в него добавили инородные включения — частицы графена и пузырьки воздуха. Расположение и форма этих включений эквивалентны функциям активации и весовым коэффициентам связей. Так, графен — материал с нелинейными оптическими свойствами — начинает пропускать свет только после того, как его интенсивность достигает определённой величины, а до этого остаётся непрозрачным.

Нейросеть изначально была обучена на компьютере и лишь затем воплощена в стекле. Но учёные отмечают, что есть технологии, позволяющие реализовать обучение прямо на месте, за счёт использования оптических материалов с изменяемыми свойствами.


Для подачи на вход нейросети двухмерное изображение рукописной цифры размером 20 × 20 пикселей заменяют на одномерное (фактически колонки пикселей выстраивают в линию). Включения в стекле преобразуют фронт световой волны таким образом, что энергия концентрируется в одной из десяти областей, соответствующих цифрам.


Нейросеть, обученная на пяти тысячах изображений, корректно распознаёт цифры в 79 случаях из 100. Авторы статьи утверждают, что могли бы добиться лучшего результата, если бы не ограничения, связанные с процессом изготовления стекла.

Физический размер пластинки — 80λ на 20λ, где λ — длина волны света, используемой для представления информации. Теоретически на распространение волны может влиять каждый атом, хотя на практике вряд ли удастся использовать включения размером меньше 10 нм. Но даже при таком масштабе потенциальное количество весов превышает 10 миллиардов на квадратный миллиметр.


Учёные предполагают, что быстрые и миниатюрные нейросетевые вычислители, которым для работы достаточно света, могут быть использованы в «широком спектре информационных устройств». Учитывая, что исследование финансировалось DARPA, нельзя исключать и военное применение технологии.


Источник


P. S. Это экспериментальный пост. Я работаю научным консультантом в Политехническом музее, и в мои обязанности входит изучение научных новостей в своей области (компьютерные технологии). По итогам я выбираю наиболее любопытную новость и делаю короткий доклад на внутримузейном научном семинаре. Этот пост был создан на основе одного из таких докладов. Если затея вам понравится, я буду периодически публиковать интересные новости из мира IT (а может, и не только).

Искусственный интеллект

4.9K постов11.4K подписчиков

Правила сообщества

ВНИМАНИЕ! В сообществе запрещена публикация генеративного контента без детального описания промтов и процесса получения публикуемого результата.


Разрешено:


- Делиться вопросами, мыслями, гипотезами, юмором на эту тему.

- Делиться статьями, понятными большинству аудитории Пикабу.

- Делиться опытом создания моделей машинного обучения.

- Рассказывать, как работает та или иная фиговина в анализе данных.

- Век жить, век учиться.


Запрещено:


I) Невостребованный контент

  I.1) Создавать контент, сложный для понимания. Такие посты уйдут в минуса лишь потому, что большинству неинтересно пробрасывать градиенты в каждом тензоре реккурентной сетки с AdaGrad оптимизатором.

  I.2) Создавать контент на "олбанском языке" / нарочно игнорируя правила РЯ даже в шутку. Это ведет к нечитаемости контента.

  I.3) Добавлять посты, которые содержат лишь генеративный контент или нейросетевой Арт без какой-то дополнительной полезной или интересной информации по теме, без промтов или описания методик создания и т.д.


II) Нетематический контент

  II.1) Создавать контент, несвязанный с Data Science, математикой, программированием.

  II.2) Создавать контент, входящий в противоречие существующей базе теорем математики. Например, "Земля плоская" или "Любое действительное число представимо в виде дроби двух целых".

  II.3) Создавать контент, входящий в противоречие с правилами Пикабу.


III) Непотребный контент

  III.1) Эротика, порнография (даже с NSFW).

  III.2) Жесть.


За нарушение I - предупреждение

За нарушение II - предупреждение и перемещение поста в общую ленту

За нарушение III - бан

Вы смотрите срез комментариев. Показать все
6
Автор поста оценил этот комментарий

Новый виток развития АВМ?

https://ru.wikipedia.org/wiki/Аналоговый_компьютер

раскрыть ветку (9)
28
Автор поста оценил этот комментарий

Дык он (виток) давно происходит. Аналоговые вычисления почти мгновенны. Для простых решений, где скорость важнее - вполне годная технология.

раскрыть ветку (4)
5
Автор поста оценил этот комментарий

почти мгновенны
Вроде комильфо говорить не мнговенны, практически мгновенны, а "со скоростью света". Типа тренд что ничто не двигается быстрее фотона.

раскрыть ветку (3)
9
Автор поста оценил этот комментарий

1) Аналоговые вычисления всегда не мгновенные. И далеко не всегда завязаны на скорость света.


2) Не совсем корректно говорить о скорости света в контексте скорости вычисления. Хотя скорость света в данном случае имеет влияние на скорость вычислений, но фраза "вычисления происходят на скорости света" абсурдна. В контексте вычислений правильнее говорить о времени операции. Ту же структуру из стекла можно сделать разного размера. Скорость света будет одинаковой, а время на вычисления будет разным.

0
Автор поста оценил этот комментарий
Тахионы так-то быстрее фотонов, но вот только это пока что очень лютая теория.
раскрыть ветку (1)
0
Автор поста оценил этот комментарий

Быстрее всех на свете только мой понос, но это тоже всего лишь теория. Я просто сказал что надо говорить только то что моветон. Остальное я запрещаю

17
Автор поста оценил этот комментарий

Почему бы и нет. Современные компьютеры всё-таки плохо подходят для моделирования нейросетей. Сейчас параллельно разрабатывается множество новых платформ для нейровычислений, в том числе и аналоговых. Например, на основе мемристоров.

раскрыть ветку (2)
0
Автор поста оценил этот комментарий

До кучи смоделированную сеть можно и оптимизировать, например убрать связи с околонулевым весом

раскрыть ветку (1)
2
Автор поста оценил этот комментарий
Их бы тренировать быстро в первую очередь. Да и отстранение связей может помешать дообучению в будущем.
7
Автор поста оценил этот комментарий

Вполне возможно. Одна из особенностей нейросетей - за счёт избыточности, они остаются полнофункциональными даже при сильном огрублении весов и внесении ошибок. То есть недостатки аналоговых вычислений не мешают работе нейросети.

Вы смотрите срез комментариев. Чтобы написать комментарий, перейдите к общему списку