MLC@Home: весеннее обновление проекта MLC 2022 г.: полная версия DS2!
Прошло некоторое время с тех пор, как мы опубликовали обновление, но это не значит, что проект простаивает! Если вы следили за нашим сервером Discord, вы знаете, что мы продолжаем добиваться прогресса, и благодаря нашим волонтерам сегодня праздник!
Вот краткое изложение текущего состояния проекта:
Резюме
Вычисление DS2 завершено! По состоянию на 1 апреля 2022 года мы, наконец, преодолели порог в 10 000 обученных сетей для ParityModified, завершив наши вычисления для DS2. Это заняло много времени, и полный набор данных должен помочь исследователям понять, как нейронные сети кодируют данные.
Все архивы DS1/DS2 доступны для загрузки с https://www.mlcathome.org/mlds.html. Это ваша работа, и теперь вы или кто-либо другой можете изучать и развивать ее бесплатно!
Архивные файлы DS3 все еще находятся на рассмотрении. Расчеты для DS3 были завершены в прошлом году, но мы еще не загрузили полные наборы данных на веб-сайт для загрузки. Мы были сосредоточены на анализе, и сам размер набора данных может вызвать головную боль, делая объединение трудоемкой задачей. Мы опубликуем здесь, когда они будут доступны.
DS4 WU вышли! DS4 WU для нашего ЦП-клиента отсутствуют, и там уже начался прогресс. Серверная часть DS4 гораздо сложнее в управлении, потому что у нее есть несколько обучающих наборов с разными требованиями, но мы выпускаем новые WU так быстро, как только можем.
Мы приостанавливаем WU GPU: это нас огорчает, но нам не удалось обновить наши клиенты GPU для поддержки WU DS4. И по мере того, как мы переключаем наше внимание на анализ результатов, которые у нас есть, у нас остается все меньше и меньше времени, чтобы сосредоточиться на разработке клиента помимо клиента ЦП. Когда текущая очередь GPU иссякнет, мы не будем отправлять больше работы GPU, пока у нас не будет времени снова изменить приоритет переноса клиента GPU. Поддержка клиента GPU заняла гораздо больше времени и усилий, чем предполагалось, и, если мы не сможем получить помощь извне, в настоящее время она останется малоприоритетной. Мы искренне ценим наших волонтеров, работающих с графическими процессорами, но на данный момент у нас нет работы для отправки, и мы рекомендуем вам использовать ваше оборудование для поддержки других достойных проектов, которые могут поддерживать ваше оборудование!
Мы изучаем перенос клиента ЦП на Rust. Кроме того, наша зависимость от PyTorch стала скорее препятствием для переносимости, чем преимуществом. В то время как экосистема нейронной сети в Rust не так надежна, способность Rust компилировать статический двоичный файл, ориентированный на большое количество архитектур и операционных систем, очень привлекательна с точки зрения переносимости. Таким образом, мы хотим перенести наш клиент ЦП MLC на чистый ржавчину с возможностью поддержки графических процессоров из той же кодовой базы в будущем. Если вы знаете Rust и заинтересованы, пожалуйста, свяжитесь с администраторами MLC.
Обратите внимание, что в рабочей очереди все еще есть DS2 WU, мы просим вас продолжать работать над ними, так как всегда лучше иметь больше образцов в качестве запасных. Однако мы не планируем больше ставить в очередь WU DS1/2/3, и все новые добавленные WU будут DS4 или более поздней версии. Это относится и к очереди GPU.
Мы очень рады дальнейшему развитию WU DS4, и это должно помочь продемонстрировать нашу теорию о том, что похожие сети группируются в пространстве параметров как в сетях с прямой связью, так и в сетях на основе CNN, а также в RNN, используемых в DS1/2/3. Помимо DS4, у нас есть некоторые идеи, но пока нет ничего конкретного. Мы будем держать вас в курсе по мере продвижения вперед.
Еще раз спасибо всем нашим волонтерам за поддержку проекта и помощь науке.
The MLC@Home Admins(s)
Homepage: https://www.mlcathome.org/
Discord invite: https://discord.gg/BdE4PGpX2y
Twitter: @MLCHome2
