Нейросеть FEMnet. Машинное обучение метода конечных элементов
Всем привет ! Эта статья скорее просто некий отчет для пикабу и ответ на многие вопросы, которые задавались в предыдущих статьях. Часть информации из предыдущих постов я убрал, так как среди различных групп разработчиков различных крупных компаний началась небольшая охота за моими наработками и начали интересоваться специалистами кто работает в проекте, что бы узнать детали проекта. Поэтому мне пришлось убрать часть информации из публичного доступа.
За прошедший год у проекта был очень сильный прирост по технологиям и по скорости их развития, но перед тем как показать какой результат достиг проект Prometey, я хотел бы показать чего достигли команды конкурентов по данной тематике в мире:
Хорватско-китайский стартап Siml.ai, предоставляют другим разработчикам пред обученные модели нейросетей для моделирования различных физических процессов, основаня масса пользователй из нефтехимической или атомной промышленности. Так же предоставляют оборудование в аренду для обучения нейросетей.
Большой международный проект университета Стэндфорд, заказчик ExxonMobile, принимают участие инженеры и ученые из Китая и США. В проекте нейросети обучают нахождению вложенных нейронных операторов Фурье. Ускорение, по сравнению с классическим МКЭ, до 700 000 раз.
3. Очень большое количество теоретических исследований ученных из Китая, США, Британии, Франции, Италии, Сингапура, Германии, Индии, Швейцарии, ОАЭ, Ирана т д, но исследования без практического применения. Например один, два, три, четыре, пять.
За 2023 год, исследователей, в направлении машинного обучения метода конечных элементов, стало больше примерно в 10 раз.
В чем же заключается суть нейросети FEMnet проекта Prometey ? - в программе Prometey реализован классический решатель на основании такого же классического решателя методом конечных элементов. Он находит за n-ое время решение задачи, в частности напряженно деформируемое состояние отдельных частей здания. Далее Prometey сам записывает все результаты в специальный файл, который и является данными для обучения нейросетей. Сервер обучения нейросетей собран на базе видеокарт Nvidia 4090. Это пока лучшее соотношение цена - скорость обучения. Стек обучения нейросети FEMnet - Prometey, Pandas, Tensor Flow, Num Py, Pandas.
Все модели нейросетей FEMnet - это многослойные перцептроны на разных функциях активации. В зависимости от необходимого результата используются разные:
Рис.1 - функции активации нейронов
Модели нейросетей, в текущей версии программы Prometey, уже прошли эволюцию в сотни поколений. Механизм выбора модели, переходящей на следующую ступень эволюции, довольно простой, выигрывает та модель , которая показывает лучшую сходимость с результатами классического МКЭ(FEM).
Нейросеть FEMnet это не одна нейросеть , это целая система нейросетей. Каждая модель обучается на миллионах данных. Каждая итерация обучения каждой нейросети занимает в среднем 72 - 90 часов на двух видеочипах 4090. Для примера ChatGPT 4.0 обучали на 9000 видеочипах Nvidia 4090 в течение нескольких месяцев. Для FEMnet необходимы сотни миллионов данных которые будут уходить на сервер из 1000 видеочипов Nvidia 4090. На текущий момент в РФ все суперкомпьютеры не подходят для данной задачи, так как они все построены на CPU и видео чипах старого поколения.
Краткая презентация FEMnet:
В будущем, в Prometey появится возможностью использования FEMnet не за счет CPU , а за счет GPU. Тогда изменение НДС решаемой задачи займет не секунды, а даже доли секунд. В примере ниже демонстрация как меняется прогиб плиты перекрытия в зависимости от положения пилона:
Инструкция по использования FEMnet:
Как видно , FEMnet и Prometey далеко впереди чем ближайшие команды из других стран. Проекту уже предлагали релокацию, но она лично мне не подходит , так как есть два условия на которые я не пойду:
Убрать "русский след"
Полная релокация из РФ
На ткущий момент проект в поисках инвестиций, которые по объему выше чем все затраты на САПР и BIM в РФ за последние несколько лет. Большая часть инвестиций уйдет на ЦОД обучения нейросетей.
Если кто-то из читателей Пикабу является владельцем частного плавучего ядерного реактора для северных широт и такого же плавучего ЦОДа способного работать за полярным кругом (для экономии на охлаждении) , то я готов принять в дар данное оборудование.