5710

Нейросеть, застывшая в стекле

Нет, это не безделушка из серии «муха в янтаре». Группе учёных из университета Висконсина, Массачусетского технологического и Колумбийского университетов удалось реализовать искусственную нейронную сеть, распознающую цифры, в виде микроскопической стеклянной пластинки. Для работы ей не требуется ни электропитание, ни подключение к каким-либо другим устройствам — фактически это автономный аналоговый компьютер, который будет работать до тех пор, пока сохраняется его целостность.

Искусственные нейросети состоят из множества синтетических нейронов, которые активируются, если совокупная величина сигналов на их входах превышает некое пороговое значение. Нейроны соединены между собой связями, имеющими определённые весовые коэффициенты (т. е. вклад одних сигналов в срабатывание функции активации — больше, а других — меньше).


Чтобы создать аналогичную структуру в стекле, в него добавили инородные включения — частицы графена и пузырьки воздуха. Расположение и форма этих включений эквивалентны функциям активации и весовым коэффициентам связей. Так, графен — материал с нелинейными оптическими свойствами — начинает пропускать свет только после того, как его интенсивность достигает определённой величины, а до этого остаётся непрозрачным.

Нейросеть изначально была обучена на компьютере и лишь затем воплощена в стекле. Но учёные отмечают, что есть технологии, позволяющие реализовать обучение прямо на месте, за счёт использования оптических материалов с изменяемыми свойствами.


Для подачи на вход нейросети двухмерное изображение рукописной цифры размером 20 × 20 пикселей заменяют на одномерное (фактически колонки пикселей выстраивают в линию). Включения в стекле преобразуют фронт световой волны таким образом, что энергия концентрируется в одной из десяти областей, соответствующих цифрам.


Нейросеть, обученная на пяти тысячах изображений, корректно распознаёт цифры в 79 случаях из 100. Авторы статьи утверждают, что могли бы добиться лучшего результата, если бы не ограничения, связанные с процессом изготовления стекла.

Физический размер пластинки — 80λ на 20λ, где λ — длина волны света, используемой для представления информации. Теоретически на распространение волны может влиять каждый атом, хотя на практике вряд ли удастся использовать включения размером меньше 10 нм. Но даже при таком масштабе потенциальное количество весов превышает 10 миллиардов на квадратный миллиметр.


Учёные предполагают, что быстрые и миниатюрные нейросетевые вычислители, которым для работы достаточно света, могут быть использованы в «широком спектре информационных устройств». Учитывая, что исследование финансировалось DARPA, нельзя исключать и военное применение технологии.


Источник


P. S. Это экспериментальный пост. Я работаю научным консультантом в Политехническом музее, и в мои обязанности входит изучение научных новостей в своей области (компьютерные технологии). По итогам я выбираю наиболее любопытную новость и делаю короткий доклад на внутримузейном научном семинаре. Этот пост был создан на основе одного из таких докладов. Если затея вам понравится, я буду периодически публиковать интересные новости из мира IT (а может, и не только).

Искусственный интеллект

4.9K поста11.4K подписчиков

Правила сообщества

ВНИМАНИЕ! В сообществе запрещена публикация генеративного контента без детального описания промтов и процесса получения публикуемого результата.


Разрешено:


- Делиться вопросами, мыслями, гипотезами, юмором на эту тему.

- Делиться статьями, понятными большинству аудитории Пикабу.

- Делиться опытом создания моделей машинного обучения.

- Рассказывать, как работает та или иная фиговина в анализе данных.

- Век жить, век учиться.


Запрещено:


I) Невостребованный контент

  I.1) Создавать контент, сложный для понимания. Такие посты уйдут в минуса лишь потому, что большинству неинтересно пробрасывать градиенты в каждом тензоре реккурентной сетки с AdaGrad оптимизатором.

  I.2) Создавать контент на "олбанском языке" / нарочно игнорируя правила РЯ даже в шутку. Это ведет к нечитаемости контента.

  I.3) Добавлять посты, которые содержат лишь генеративный контент или нейросетевой Арт без какой-то дополнительной полезной или интересной информации по теме, без промтов или описания методик создания и т.д.


II) Нетематический контент

  II.1) Создавать контент, несвязанный с Data Science, математикой, программированием.

  II.2) Создавать контент, входящий в противоречие существующей базе теорем математики. Например, "Земля плоская" или "Любое действительное число представимо в виде дроби двух целых".

  II.3) Создавать контент, входящий в противоречие с правилами Пикабу.


III) Непотребный контент

  III.1) Эротика, порнография (даже с NSFW).

  III.2) Жесть.


За нарушение I - предупреждение

За нарушение II - предупреждение и перемещение поста в общую ленту

За нарушение III - бан

597
DELETED
Автор поста оценил этот комментарий

>Нет, это не безделушка из серии «муха в янтаре».


Как геолог скажу : да ты охуел

раскрыть ветку (1)
284
Автор поста оценил этот комментарий

Ну не занудствуй. Я же не настоящие имею в виду. А ширпотреб, которым всюду в Калининграде торгуют, где берут современную букашку и заливают её подкрашенной эпоксидкой.

показать ответы
94
Автор поста оценил этот комментарий
Начинаем добираться до магических артефактов! Не все потеряно еще!)
раскрыть ветку (1)
95
Автор поста оценил этот комментарий

Вот да. Тоже, когда изучал статью, думал о всякой фантастике, где находят артефакты древних цивилизаций. Электронные схемы выйдут из строя, магнитные ленты и диски осыпятся, а вот стеклянные «волшебные кристаллы» — в которые смотришь, и они тебе что-то говорят, — могут работать и спустя миллионы лет.

показать ответы
48
Автор поста оценил этот комментарий

Стекло (и множество аналогичных веществ) характеризуется аморфным состоянием вещества, так что оно со временем "течет" - следовательно, сеть "нейронных" связей поменяется - "волшебный кристалл" со временем начнет бредить или замолкнет.

Так что надо начинать надо сразу с алмаза (хотя не уверен что он "неаморфен")

раскрыть ветку (1)
53
Автор поста оценил этот комментарий

Да, такое мнение про стекло довольно распространено, но совершенно не факт, что оно верное. Я не эксперт в этом вопросе, так что лишь дам ссылку на научную статью, которая самим своим названием входит в противоречие с вашими словами: «Glass Doesn't Flow and Doesn't Crystallize and It Isn't a Liquid». https://pubs.acs.org/doi/abs/10.1021/ed077p846
Чем не пища для размышления на вечер?

показать ответы
6
Автор поста оценил этот комментарий

Новый виток развития АВМ?

https://ru.wikipedia.org/wiki/Аналоговый_компьютер

раскрыть ветку (1)
17
Автор поста оценил этот комментарий

Почему бы и нет. Современные компьютеры всё-таки плохо подходят для моделирования нейросетей. Сейчас параллельно разрабатывается множество новых платформ для нейровычислений, в том числе и аналоговых. Например, на основе мемристоров.

показать ответы
5
Автор поста оценил этот комментарий
А потом выяснили, что это косяки допущеннве при изготовлении стекла средневековыми методами, нет?
раскрыть ветку (1)
14
Автор поста оценил этот комментарий

...а потом выяснили, что встречаются и стёкла, имеющие утолщения сверху. И сбоку. Читал я статью про то исследование)

показать ответы
Автор поста оценил этот комментарий

Вы вроде бы написали осмысленные предложения. Но в единую мысль они у вас не выстраиваются.

К тому же,

Многие цифры похожи друг на друга, имеют общие элементы.

это сложность не только для выдуманной мною "нейро"системы, но и для любой, так что в качестве аргумент это факт ничтожен.

***

Ну и в качестве бонуса распишу причину язвы моего предыдущего коммента - в статье никак не раскрыт этап передачи результатов обучения нейросети из компьютера - в стекло. А ведь формирование стеклянного аналога В НЕСОВЕРШЕННОМ (реальном) МИРЕ по подобию высокоточнорассчитаного на 64-нм кристальном (в реальном мире уже рассказан способ изготовления этого кристалла) процессоре в ПК нейронной сети - дело новое, неосвоенное. А значит:

вот этот перенос - и есть изюминка самой этой технологии.

и эту изюминку в статье не показали. Сказали что научились выращивать людей с кошачими ушками, а как их вырастить - не рассказали.

Короче идите вы с этой неинтересной статьей в самый низ НЕСВЕЖЕГО.

раскрыть ветку (1)
13
Автор поста оценил этот комментарий

Ну, степень несвязанности мыслей в ответе явно не превышает степень несвязанности вашего исходного коммента, где в последних двух предложениях то ли из-за рассогласования чисел и падежей, то ли просто из-за речевых ошибок вообще невозможно разобраться, кто на ком стоял и кто кому чего подставляет.
Аргумент про похожесть цифр, разумеется, работает для всех систем, вы тут открытия не сделали. Ну так мы и обсуждаем конкретно вашу вымышленную систему. Вы для неё не привели механизма решения этой проблемы, так что аргумент работает замечательно.
Претензия из бонуса понятна, но тут мы можем только посочувствовать, что детали этой технологии авторы пока не раскрыли. Подождём ещё публикаций.
Ну а куда кому идти с постом — это уж решат пикабушники, а не один чудак, которому захотелось примерить белое пальтишко и хлопнуть дверью)

показать ответы
Автор поста оценил этот комментарий

Не нейросеть а ПО блять, такая же как exe файл

раскрыть ветку (1)
11
Автор поста оценил этот комментарий

Запишите exe-файл на стеклянную пластинку. Расскажете потом, хорошо ли работает.

показать ответы
25
Автор поста оценил этот комментарий

Эмм... Суммировать свет - можно (с оговорками), ставить коэффициенты (затемнять) - можно, функция активиции... ну допустим тоже.

Но с учетом что связать нейроны все со всеми между слоями будет довольно сложно если делать это в стекле...

Короч, мне бы было интересно узнать более подробно как они это сделали, пусть это и будет "Пикабу образовательный". Как перешли от аналитической классической многослойной к такой, думаю, не тривиальной "аналоговой".

Скинь хотя бы код научной статьи в DOI, они там вообще описывали как провели. Использовали фишки с сложением волн света (а равно и "гашением противофазой" или там это правильно в оптике называется) ?

раскрыть ветку (1)
11
Автор поста оценил этот комментарий

Так в посте есть ссылка на источник. Это полный текст, статья очень короткая. Развёрнутого приложения с методами там нет. Видимо, нужно искать ответы в статьях, на которые они ссылаются.

0
Автор поста оценил этот комментарий

Хм. На пикабу, наверное, этого не было, так что технически не баян.
Но вообще новость более чем годичной давности
https://habr.com/ru/post/460353/

раскрыть ветку (1)
6
Автор поста оценил этот комментарий

Да, действительно. Я эту новость рассказывал на одном из давних семинаров, а сейчас решил начать с неё, потому что она мне вспомнилась первой. Ну и всё-таки отмечу, что в статье на Хабре меньше деталей, а её язык уж больно напоминает машинный перевод.

показать ответы
Автор поста оценил этот комментарий

На бумаге работало, перфокарты.

раскрыть ветку (1)
5
Автор поста оценил этот комментарий

Утраченные технологии высокоразвитой цивилизации, не иначе. Программы на перфокартах сами работали, без компьютеров!
Хотя вообще такие задачи можно представить. Где ответ содержится в самом условии, и нужно лишь наложить карточку с отверстиями в нужных местах, чтобы его увидеть)

Автор поста оценил этот комментарий

Да фишку я уже в статье прочитал. Но в статье не раскрыт способ создания этой стекляшки. Поэтому я и написал эту отсебятину в первом комменте, просто не представляю как можно там в стекло трубочки вставить именно так как нейросеть на компьютере рассчитала. Знаю что в процессорах кристаллы создаются с детальностью в 64 нм, но как в стекла вставлять всякую фигню УПОРЯДОЧЕННО И ПРИ ЭТОМ ТОЧНО ОРИЕНТИРОВАННО - в статье не написано, я не знаю, никто не подсказывает, только про фишки какие-то повторяет.

Поэтому моя отсебятина выглядит полноценнее статьи, ибо ОПИСЫВАЕТ не только принцип, но и РЕАЛИЗАЦИЮ

раскрыть ветку (1)
4
Автор поста оценил этот комментарий

Не знаю, откуда вы взяли эти 64 нм. Техпроцесса с таким обозначением никогда не существовало. Был 65 нм, но давно, лет 15 назад. Современные процессоры делают по техпроцессам 14, 10, 7, 5 нм. Правда, это уже не физический размер минимальной структуры на кристалле — сейчас эти техпроцессы высчитывают хитро, через площадь стандартной шеститранзисторной ячейки. Так что цифра условная. Но, так или иначе, создание структур размерностью в несколько десятков нанометров для современной фотолитографии особых проблем не представляет.

Автор поста оценил этот комментарий

Че мы получили. Набрали кучу стекляшек. В картонках вырезали цифры. Посветили фонариком через вырез картонки на каждую стекляшку. Стекляшки, которые отсвечивали в верхний край от вырезанной однерки - назвали нейросеть распазнающая однерку, стекляшки которые светили через вырезанную двойку чуть пониже - распазнающими двойку,... через вырезанную девятку в самый низ - нейросетью девятки. Остальные стекляшки выкинули. Итого получили десятиглазую нейросеть, которой нужен свет (не электроэнергия), подставлять распознаваемую циферку под каждый глаз и вырезать каждую циферку. Ибо где вы видели вырезанные данные для нейросети кроме вот этой вот?

раскрыть ветку (1)
4
Автор поста оценил этот комментарий

Всё бы чудесно. Только где хоть малейшая гарантия, что в куче хаотично насыпанных стекляшек найдётся та, которая будет уверенно «отсвечивать в верхний край от вырезанной однерки», а не засвечивать сразу несколько цифр? Многие цифры похожи друг на друга, имеют общие элементы.
Ну и сеть из статьи не является «десятиглазой», т. к. у неё нет частей, каждой из которых нужно было бы предъявлять каждую цифру отдельно. Она сразу смотрит на всё, а условный «глаз» у неё один — линейный, из четырёхсот «палочек».

показать ответы
1
Автор поста оценил этот комментарий
То есть ИИ лишь создаёт схему включений в стекляшке, далее это "собирается" и в итоге получаем "магический кристалл" который может подать сигнал указав изображение какой цифры перед ним. По сути энергонезависимый оптический датчик различающий больше двух вариантов (темноты и света), но со сложностью приходят и погрешности.
Я правильно понял?
Возмжно ли будет "научить" такие стекляшки распознавать более сложные изображения, отличить собаку от человека например?
раскрыть ветку (1)
3
Автор поста оценил этот комментарий

Вполне. Вот выше ссылку кидали, там похожая система довольно уверенно туфельки распознаёт)

Иллюстрация к комментарию
показать ответы
0
Автор поста оценил этот комментарий

Даже если бы это была шутка или сарказм ... но оказалось бы что есть у Вас такой человек на примете и вы развили бы эту тему на пару...

разве важно было бы какой у меня коммент, с сарказмом или чем еще, если вы все равно занимались бы тем чем собирались заняться.

я буду периодически публиковать интересные новости из мира IT (а может, и не только).

раскрыть ветку (1)
2
Автор поста оценил этот комментарий

Вы даже не видите, кому вы отвечаете и с кем переписываетесь.

показать ответы
4
Автор поста оценил этот комментарий

про музей я бы тоже почитал

раскрыть ветку (1)
2
Автор поста оценил этот комментарий

У меня было несколько постов. Ищите по тегу:
https://pikabu.ru/tag/Политехнический музей

0
DELETED
Автор поста оценил этот комментарий

Не, я имел ввиду в целом, развитие нарочно тормозят. А кремний в ходу, потому что просто и дешево, очевидно же..

раскрыть ветку (1)
1
Автор поста оценил этот комментарий

Да уж. Настолько просто и дёшево, что микроэлектронное производство с современными техпроцессами есть менее чем у десяти компаний во всём мире. А построить фабрику, способную осуществлять такое производство, стоит 10 млрд $. Напомнило:

Иллюстрация к комментарию
показать ответы
0
DELETED
Автор поста оценил этот комментарий

А можно поподробнее про Вашу работу?

Уж больно теплый и уютный образ возник в голове после прочтения строк о подготовке к внутреннему семинару. Словно у всего коллектива на работе остается время заниматься чем-то интересным.

раскрыть ветку (1)
1
Автор поста оценил этот комментарий

Спасибо за ваш комментарий, хотя его последнее предложение вызвало грустную улыбку. Из ваших слов получается, что по умолчанию коллектив на работе занимается чем-то неинтересным) На самом деле у нас и сама работа очень интересная — поверьте, мне есть с чем сравнивать. Но вы правы в том, что чем ближе открытие, тем больше её становится, и тем труднее выделять время на то, чтобы просто поговорить о чём-то интересном в мире науки. И всё-таки семинар — это одна из добрых традиций научной группы, мы дорожим этим и продолжаем его проводить каждые две недели. Вот сейчас я допишу этот комментарий и продолжу готовить очередной доклад.

1
DELETED
Автор поста оценил этот комментарий

Заявочка на фотонные компы

раскрыть ветку (1)
1
Автор поста оценил этот комментарий

Да она лет на 40 пораньше была сделана. Первые работающие прототипы уже в 90-х показывали.

показать ответы
0
Автор поста оценил этот комментарий

Тоесть если его ещё и 3х мерным сделать, то возможности взростут в разы?

А фотонные устройства вообще есть в обычном использовании или только у военных?

раскрыть ветку (1)
1
Автор поста оценил этот комментарий

А они в статье по ссылке в конце показывают трёхмерный прототип. Насчёт «фотонных устройств» — требуется уточнение, что имеется в виду. Так-то фонарик — тоже фотонное устройство, создаёт поток фотонов) Вообще опыты в области создания таких оптических нейросетей начались, по-моему, ещё в 80-е. А эксперименты по переводу компьютеров с электронной базы на фотонную — и того раньше. Статей по фотонике очень много публикуется. Так что таких устройств сейчас, наверное, больше даже не у военных, а у учёных.

1
Автор поста оценил этот комментарий

Леша, спасибо за интересную новость :) узнал по нику :)

раскрыть ветку (1)
1
Автор поста оценил этот комментарий

Всегда пожалуйста! Только я вот по нику не узнал(

показать ответы
4
Автор поста оценил этот комментарий

тот случай, когда ты смотришь на стекло и ничё не видишь, а стекло смотрит на тебя и видит НОЛЬ Х___х

раскрыть ветку (1)
1
Автор поста оценил этот комментарий

Это только если вы по форме такой же кругленький, как цифра 0)

0
DELETED
Автор поста оценил этот комментарий

Мы бы уже в фантастическом мире могли жить, но некоторым не выгодно, а остальные не имеют силы в своём слове.

раскрыть ветку (1)
0
Автор поста оценил этот комментарий

Возможности, которые у нас есть сейчас благодаря кремниевым компьютерам, для людей из середины прошлого века тоже выглядят фантастическими. Почему это оказалось «некоторым выгодно», а гипотетические фотонные компьютеры — нет?

показать ответы
1
Автор поста оценил этот комментарий
Спасибо! Стало яснее)
Но учитывая что раскладывают на пиксели, похоже на какое-то надолбалово) типо сложной оптики. Или суть как раз в том, что нейросеть помогает формировать эту сложную оптику?
раскрыть ветку (1)
0
Автор поста оценил этот комментарий

Это нужно только для того, чтобы можно было подавать картинку на торец (одномерный). Есть и другие варианты оптических сетей, где последовательно расположены несколько двухмерных слоёв. Им картинку уже показывают как есть.

показать ответы
0
Автор поста оценил этот комментарий

Ничего впечатляющего. 10 миллиардов нейронов, большая часть в резерве или вспомогательая, тупо передает данные по нервам. Устроены, конечно, похуже, так как электронные имеют виртуальные связи между собой, что изменяются за наносекунду, а у человека при обученнии связи растут годами. Все процессы в миллиарды раз медленней. Объем данных нейросети человека 10-100 мегабайт, всё в виде расплывчатых образов. Вообще ни о чем, ни по объему, ни по скорости.

И по надежности ни в какое сравнение не идут

https://ru.wikipedia.org/wiki/Список_когнитивных_искажений

После ряда самоубийств пилотов с пассажирами, в самолетах даже пилотам прав меньше дали, самолетами теперь управляют компьютеры, а пилоты штурвалом просто рекомендации дают, которые компьютеры могут и отклонить.

Достоинства в стиле "теплого лампового звука", кто хочет, тот в это верит.

раскрыть ветку (1)
0
Автор поста оценил этот комментарий

Ну нет, с этим уже я согласиться не могу. Хоть я и не специалист по мозгу, но даже моих знаний хватает, чтобы понять, что это — смесь устаревших представлений 70-летней давности и просто неверных утверждений.

С количеством нейронов вы почти на порядок ошиблись, по современным данным их в среднем 86 млрд. То, что большая часть нейронов «в резерве и вспомогательная» — так учёные уже давно не считают. Связи в искусственных нейросетях тоже не за наносекунду меняются, столько могут занимать разве что самые последние результирующие стадии. А вообще на обучение довольно сложных нейросетей даже на мощном современном железе могут уходить недели. И у человека вовсе не обязательно такие связи годами выстраиваются. Для некоторых хватает времени ночного сна, а самые маленькие шипики и вовсе за секунду могут образоваться. Про 10–100 МБ — тоже величина крайне сомнительная. Как это было подсчитано? Разве что человек в символьном виде столько информации может выдать. А так-то при наличии 86 млрд нейронов, да тысяч синапсов у каждого, да разных связей между ними... На одно только описание мгновенного снимка коннектома уйдут петабайты.

Ну а уж утверждать, будто искусственные системы не подвержены искажениям, вообще смешно. Весь интернет в примерах того, как на ровном месте спотыкаются даже хорошо обученные нейросети. Например, если добавить во входную информацию едва заметный шум.

В общем, конда музей откроется, приходите на экспозицию по мозгу, точно узнаете много интересного)

показать ответы
Автор поста оценил этот комментарий

"имел ввиду", а не "имела"!

Я - он! Я с утра проверял!

раскрыть ветку (1)
0
Автор поста оценил этот комментарий

Верю, верю! Доказательства можно не предъявлять.
Это же цитата(

показать ответы
0
Автор поста оценил этот комментарий

Частота сигнала в приёмнике - это другое. А я говорю про тактовую частоту вычислений. В нейронах мозга она ограничена "инертностью" - скоростью протекания химреакций, которые участвуют в передаче сигналов.

раскрыть ветку (1)
0
Автор поста оценил этот комментарий

Я человек простой. Вижу утверждение «к аналоговым устройствам неприменима частота» — выпадаю в осадок) Это уже потом начинаются объяснения, «шо конкретно ты имела в виду».
Строго говоря, и комментатор выше нигде не говорил, что эта условная частота 10 Гц — тактовая. Вот возбуждается какой-нибудь нейрон в среднем 10 раз в секунду вследствие тех самых реакций — ну и вполне допустимо говорить, что он срабатывает с частотой 10 Гц.

показать ответы
1
Автор поста оценил этот комментарий

Но ведь мозг - это аналоговое устройство, к нему неприменима частота. Да и ритмы мозга являются следствием его работы, а не причиной - который задавали бы ему тактовую частоту.

раскрыть ветку (1)
0
Автор поста оценил этот комментарий

Вот это вы сейчас меня как громом поразили. Это с чего же вдруг к аналоговым устройствам неприменима частота? Возьмите радиоприёмник — устройство аналоговое по самое не могу. Скажете, что к нему частота неприменима? )

показать ответы