Хроники ML-отдела (1)
Мы команда
- Кто работает над проектом?
- Менеджер проекта, начальник отдела, начальник управления и ты.
- И я... А вы в алгоритмах машинного обучения разбираетесь?
- У нас хорошая инженерная интуиция. Вот код, можешь внести правки, если нужно.
- Это код?! Я думал, это кот потоптался, а затем проблевался на клавиатуру.
- Мы с тобой горы свернём! Горы вон там. Приступай.
Обожаю командную работу.
_______________
Цена безделья
Два месяца просидел на работе без работы. Собственные проекты развлекали. Но хотелось чего-то масштабного, с жирной премией по итогам. Терпение капля за каплей иссякало.
- Хватит. Увольняюсь.
- Ждём новый проект со дня на день... Стой! Будем платить больше.
- Хорошо. Это меня остановит. Ненадолго. А премию?
- Совсем ох... Ты ведь понимаешь странность ситуации? Мы повышаем тебе зарплату за то, чтобы ты ничего не делал.
- Здорово, правда?
_______________
Уважительная причина
Смотрел на мир под ногами, пытался понять его суть. Есть у меня такая привычка: представлять жизнь в виде математических абстракций. Для города - людей, машин и дорог - отлично подходит теория графов. Но вид за окном не хотел систематизироваться. Только часа через два начали проступать первые взаимосвязи, закономерности. Важно время, важен ритм. Это как с растениями. На первый взгляд, бездвижные, но в ускоренной съёмке довольно занятное зрелище...
- Другими словами, ты пропустил совещание, потому что пялился в окно?
- Ты придираешься к форме, но не видишь содержание... Да.
_______________
Make SkyNet Great Again
Корпоративная пьянка близилась к завершению. Настало время разговоров по душам.
- Знаешь, что меня поражает в нейронных сетях? С математической точки зрения просты до одури, школьник разберётся. Но какая мощь! Архитектуры, количество параметров - всё так, не спорю. Но сам принцип прост, а...
- Меня другое поражает. Мы используем искусственный интеллект, у которого нет никакого интеллекта, и сложность меньше, чем мозг у муравья...
- В GPT2 уже 1.5 миллиарда весов, а у муравья...
- Сука! Ты мне дашь хоть слово вставить?! ИИ предельно туп. Но он отлично заменит 99% человеческой активности. Впору задуматься.
Нейронные сети. Обратное распространение ошибки
Привет, Лига образования!
Мы продолжаем переводить легендарный курс по нейросетям от 3blue1brown.
В предыдущей лекции мы узнали о градиентном спуске. Сегодня речь пойдет о методе обратного распространения — главном алгоритме обучения нейронных сетей.
Благодарим за создание выпуска:
Переводчика – lenablur;
Редактора – Михаила Коротеева;
Диктора – Никифора Стасова;
Монтажера – Олега Жданова
И бонус в комментариях, английский!
4 тысячи
4 тысячи на 3 тысячи - стандартный размер фотографий, которые операторы получают с коптеров на поисках пропавшего человека. Конечно же - в пикселях.
Всем привет, с вами снова Lacmus Foundation - открытое сообщество разработчиков программы для спасения людей.
Надеюсь, вы читали прошлый наш пост - нейросети находят пропавших людей.
Сегодня мы немного ответим на задаваемые нам вопросы и снова попытаемся найти человека на фотографиях с воздуха вручную. Правильные ответы будут в комментариях.
Начнём с вопросов.
Пост набрал внушительное количество комментариев - признаемся, мы не ожидали такого резонанса, но нам было приятно отвечать на них. Даже появилось несколько подписчиков - мы рады, что технология вызывает заинтересованность.
Итак, вопросы-ответы:
Q:- Нельзя ли запускать нейросеть на мощных видеокартах, чтобы фотографии обрабатывались быстрее?
A:- Можно и даже нужно. Но в нашем случае поисковые работы обычно проходят вдалеке от цивилизации, где нет постоянного электричества, стабильного широкого канала связи (для загрузки изображений на сервер), а возить с собой генератор - роскошь.
Q:- Нельзя ли передавать фотографии с дрона сразу на ноутбук оператора?
A:- Можно, но сложно. И прожорливо по питанию. И нестабильно. Проще и надёжнее натыкать коптеру Полётное Задание, по возвращении вытащить флешку с фотками, вставить взамен чистую, поменять аккумулятор и отправить фоткать следующий квадрат. А с флешки уже добыть фотографии и обрабатывать их на ноутбуке. При такой схеме летаем дольше, фотографируем больше, ищем эффективнее.
Q:- Зацепить на коптер тепловизор и им искать людей! Не?
A:- Можно. Но у тепловизоров на данный момент низкое разрешение. Летать приходится достаточно высоко (50 м, ибо деревья). С такой высоты тепловизор увидит человека как два-три пиксела. Это уже сопоставимо с помехами. А цена коптера с таким тепловизором приближается к квартире. Для волонтёров и добровольцев подобное оборудование - роскошь.
С вопросами разобрались. Теперь - фотографии.
В прошлый раз была фотография на чистой заснеженной целине. Усложним задачу - добавим в сцену немного деревьев. Теперь фотографии будет три (напомню: с поиска их может приехать 2 - 4 тысячи)
P.S. Во время фотосъёмок ни один человек или коптер - не пострадал.
P.P.S. Нам нужно улучшать нейросеть. Для этого нужно больше фотографий. С коптеров и с геотегами. Поэтому - пожалуйста, отписывайтесь в комментариях, если Вы готовы помочь с фотографиями с коптеров.
Засим всё. Хороших выходных. Берегите себя.
GPT-3 на русском
Умные ребята из Сбера собрали огромный объем данных на русском языке (туда вошли в т.ч. и пикабушные посты, кстати): >600Гб.
Потом они прочитали научную работ других очень умных ребят из OpenAI про известную GPT-3 и настроили нейронную сеть с той же самой архитектурой.
Наконец, у них был в наличии самый мощный в России суперкомпьютер, на котором они смогли обучить всё это дело за разумное время.
И вот, теперь любой специалист по ML может зайти на гитхаб и скачать уже обученную сеть, не тратя огромные ресурсы и деньги на её создание.
А теперь немного демок. В связи с нагрузкой, самому потыкать нельзя, но обещали сделать официальную демку.
Ссылка на источник со всеми подробностями: https://habr.com/ru/company/sberbank/blog/524522/; там в комментариях ссылки на скачивание весов.
Нейросеть раскрашивает фотографии (реальные тесты)
Цифровизация, автоматизация, роботизация неотъемлемая часть современного прогресса. Наверное, с этим не будут спорить, даже Ксения Собчак и Ольга Бузова. Lol. Будет ли искусственный разум когда-нибудь на равных с человеком?
Рассуждение дилетанта об искусственном интеллекте
Отличия, как видит человек и машина:
Современная военная техника, боевые самолеты, вертолеты, обмундирование переходят на новый пиксельный камуфляж. Для чего? Ведь для человеческого глаза более комфортна маскировка в виде листьев. Потому что: «квадратики» специально заточены под компьютеры, приборы ночного видения, головки самонаведения и т.п. ИИ может истолковать «пиксели» как цифровой шум и не заметить объект.
Еще один пример, реальный случай, автомобиль на автопилоте. Красный дорожный знак «стоп», с налипшим снегом, любой водитель это заметит. Беспилотник считывает снежинки как пиксели и нарушает правила ПДД.
Несомненно, программы будут, дорабатываться, совершенствоваться. Но сегодня, существует принципиальная разница восприятия информации с монитора компьютером и человеком. И не важно, военный он, водитель или художник.
Нейросеть раскрашивает фотографии
Огромное количество заголовков в интернете: «искусственный интеллект, нейросеть раскрашивает фотографии за несколько минут, машинное обучение» и т.п. За вас восстановят, отретушируют, отреставрируют старые потрескавшиеся фотографии. Красиво звучит, но при ближайшем рассмотрении за навязчивой рекламой всего лишь набор алгоритмов, шаблонов, очень стандартных и примитивных.
Колоризация фото нейросеть. Преимущества:
-Не надо тратить деньги, это бесплатно;
-Почти мгновенный результат;
-Недостатки:
-В большинстве случаев ужасное качество;
-Вам не ответят, не исправит ошибки, пожелания и замечания;
Профессиональная ручная ретушь и «современной искусственный интеллект», это всё равно, что сравнить искусство Древней Греции и Рима с мультфильмами про Симпсонов, Томпсонов и Губку Боба. Термины, которые часто можно встретить в интернете:
Раскрашивание черно-белых фотографий;
Расцвечивание фото;
Окрашивание старых фотографий;
Колоризация (Колорирование) фото;
Добавление цвета к чёрно-белому изображению;
Последняя фраза, на наш взгляд, более точно и грамотно описывает данный процесс.
Нейросеть колоризация фото
Некоторые, «очень продвинутые» ретушёры, пользующиеся бесплатными услугами - «нейросеть колоризация фото», гордо называют себя «художниками-колористами». Эта фраза всё чаще появляется в сети. Рискнем предположить, «колорист» от английского слова-coloring (раскрашивать). Если набрать Google поиск изображений- coloring photos (колоризация фото), получаем результат — детские чёрно-белые картинки для раскраски.
Простите за занудство, пойдем дальше. В английском языке слово «художник» - artist. Будьте последовательными, называйте себя не «художниками-колористами», а «артистами-колористами», так будет более грамотно, «продвинуто» и в рифму. Lol
По прогнозу специалистов, искусственный разум «типа терминатор» создадут не ранее чем через 20-40 лет. Возможно тогда, профессия художник уйдет в небытие, как и многие другие или получит новый импульс и движение вперед. На эту философскую тему написано много книг, снято, огромное количество фантастических фильмов. Ответ узнаем уже скоро.
Нейросети реставрация фото Как работает.
Простыми словами: программа захватывает лицо человека, фигуру, сегодня это сделать несложно. Далее, грубо накладывает шаблонные, стандартные цвета, часто с размытыми, неточными границами. По качеству это напоминает старые портреты на памятниках, чёрно-белые фото по металлу, сверху полупрозрачная краска.
Нейросеть для улучшения качества фото, всегда ли срабатывает, как рассказывает реклама? Нет. Только в стандартных вариантах портрета. Если задача более сложная, часть лица закрыта рукой, присутствует борода, очки, повернута голова и так далее, в большинстве случаев финальный результат не предсказуем.
Мы не отговариваем вас, не пытаемся встать на пути прогресса и новых технологий. Несомненно, автоматизация займет свою большую нишу в современном мире. Быстро, удобно, бесплатно. Большинство простых пользователей будут удовлетворены.
Но настоящие гурманы, ценители прекрасного, всегда определят искусственную подделку от живой работы.
Нейросеть для улучшения качества фото
Мы использовали несколько нейросетей, от американской Algorithmia до российского сервиса mail.ru. Отечественный искусственный интеллект, на наш взгляд, более продвинут чем разрекламированные зарубежные аналоги, ему отдаём Пальму первенства. Как минимум имеет четкие границы захвата области и вполне приятный цвет лица.
Реставрация старых фотографий
Примеры работ: восстановление, ретушь, раскрашивание черно-белых изображений до и после. Сделанных вручную, по старинке, "ДЕДОВСКИМ СПОСОБОМ". Источник Sharji.ru
фото Эдвард Кертис 1908г. ( Реставрация_фотографий )
Генерал Уильям Шерман 1891г.
Портрет девушки. Великобритания 1952г (колоризация фото)
Бессмертный Полк. Брестская крепость июнь 1941г
Как машинное обучение помогает спасать природу
В 2003 году Таня Бергер-Вольф, ученая из Университета Огайо, поехала в отпуск в заповедник в Кении. Там она встретила коллегу, который пытался идентифицировать зебру, сравнивая ее полосы с полосами сотен зебр на фотографиях, ранее сделанных в заповеднике.
Поиск занял примерно 20 минут, и Бергер-Вольф предположила, что должен существовать лучший способ идентификации диких животных. Вместе с коллегами они разработали Экологическую информационную систему на основе изображений (IBEIS), систему машинного обучения, способную сравнивать фотографии зебр и других видов животных.
В процессе обучения IBEIS демонстрировали тысячи фотографий животных. Зебры идеально подходят для этой задачи, потому что, по сути, они являются ходячими штрих-кодами. Но будет ли IBEIS работать с другими животными, нуждающимися в защите? Профессор Бергер-Вольф объединила усилия с некоммерческой организацией Wild Me. Вместе они создали проект Wildbook, чтобы подсчитать китовых акул, находящихся под угрозой исчезновения, путем анализа фотографий исследователей, дайверов-любителей и обычных туристов на лодках.
У этих акул есть пятна на теле, уникальные для каждого животного. В рамках проекта было проанализировано около 75 000 фотографий и видеороликов, и выявлено около 8100 особей китовых акул. Проект был признан успешным, сейчас Wildbook продолжает работу с более чем 30 видами животных, включая белых медведей, жирафов и горбатых китов. Программное обеспечение просматривает публично размещенные изображения и клипы в социальных сетях в поисках подходящих животных.
В 2016 году Кения обратилась к Бергер-Вольф за помощью в подсчете зебр Греви. В 1970-х их было около 15000, но защитники природы считали, что их количество резко сократилось. Для этого ученые пригласили волонтеров, которые хотели помочь, и попросили их фотографировать животных в течение двух дней в местах их обитания. Сотни людей вызвались помочь, в общей сложности они сделали 40 000 изображений для обучения моделей машинного обучения.
Окончательный подсчет показал 2350 зебр, подтвердив опасения защитников природы. Но теперь, когда снижение численности было задокументировано, был предпринят ряд шагов. Новые переписи зебр, проведенные в 2018 и в начале 2020 года, показали увеличение поголовья до 3000 особей.
Сможете найти на картинке цифру среди букв?
Справились? Тогда попробуйте пройти нашу новую игру на внимательность. Приз — награда в профиль на Пикабу: https://pikabu.ru/link/-oD8sjtmAi
Нейронка пытается продолжить песню A-ha - Take On Me
У проекта есть сайт jukebox.openai.com где подобным образом сгенерирована очень большая коллекция песен (если их так можно назвать) на любой жанр и вкус