TheFounder

О каких только фреймворках мы не рассказывали в этой рубрике, но сегодня поговорим о самых-самых. Будете знать, как с ними работать, и оффер вам гарантирован.

С чего начать?

• Scikit-learn — это база. В ней собраны алгоритмы для классификации, регрессии, кластеризации и других задач, с которыми вы должны научиться справляться в первую очередь. С этой библиотекой можно быстро построить модель и проверить её на данных. Идеально для начала и для быстрого прототипирования.

• Pandas – незаменимая вещь для работы с данными. Фильтровать, сортировать, анализировать данные — с этой библиотекой можно делать все операции и не ломать себе ни мозг, ни психику.

• Matplotlib — библиотека для визуализации данных ваших моделек. Если хотите на собеседовании показать это техлиду, то matplotlib поможет вам создать красивые графики и диаграммы, по которым всё будет понятно.

• Seaborn  — более мощная версия Matplotlib. Она упрощает создание сложных статистических графиков: тепловые карты, диаграммы распределения, матрицы корреляции и многое другое.

• Plotly — библиотека для тех, кто хочет, графики были не просто статичными, а интерактивными. Она идеальна для веб-приложений, где пользователи могут взаимодействовать с графиками.
  

Как только освоитесь в работе с этими инструментами, переходите на следующий уровень:

➡️TensorFlow, в которой можно строить и тренировать CNN, RNN, а ещё визуализировать графы моделей, отслеживать метрики обучения и анализировать производительность моделей.

➡️PyTorch, который поддерживает визуализацию через TensorBoard и другие инструменты, и предлагает динамическую вычислительную граф для исследований и быстрого прототипирования.

Ну вот и все, дерзайте :)

Adversarial Attacks — это тип атак, направленных на нейронки, при которых злоумышленники вводят специально созданные искажения в данные с целью сбить модель с толку.

Обычно подмена происходит точечно, филигранно, чтобы потянуть время.

Эти искажения могут быть настолько малы, что их оперативная группа тех. поддержки не догадается об атаке и не начнет исследовать поступаемые на вход данные.

Такой тип атаки может изменить предсказание модели. Вот и всё.

В контексте computer vision, например, к изображению добавляют небольшие шумы, которые могут заставить модель неправильно классифицировать картинку.

Представьте, что модель обучена распознавать дорожные знаки.

Адверсариальная атака может добавить к изображению стоп-знака невидимые глазу изменения, заставив модель распознать его как, например, знак "проезд разрешен".

ML-специалисты боятся адверсариальных атак. Неверные диагнозы, слом системы мониторинга и детекции, неправильные торги на биржевом рынке.

Подставная компания, взломав систему принятия решений о покупке акций, может искусственно поднять спрос и заработать на подъеме цены «пустышки», предварительно купив активы на «низах».

В случаях с кредитным скорингом, злоумышленники могут точечно подменить данные о переводах или кредитной истории, чтобы система дала высокий балл «дропу».

Часто прогеры из даркнета просто требуют выкуп.

Обычно защищаются от таких атак DropOut’ом или Label Smoothing, чтобы убрать целочисленные метки.

Или специально встраивают отравленные данные в датасет – так компании защищаются превентивно.

Еще помогает ансамблирование нейронок. Если атакуют одну – другие задавят своими результатами при подсчете оптиума значений.

Если быстро не пресечь или не заметить атаку – вся ответственность, тяжко выдаваемая бизнесом, рушится…

Чем больше развиваются нейросети – тем больше компании нуждаются в эффективной защите бизнеса и корпоративных ИИ.

Совсем недавно Meta опубликовала большую статью, где они показали как ускорили диффузионку.

Диффузионные нейронные сети ускоряют за счет оптимизации этапов диффузии и денойзинга, использования более эффективных архитектур – U-Net

А также применения техник "раннего останова" и обучения с помощью генеративно-состязательных подходов.

Но подобные механизмы компенсации дают совсем маленький ++ к эффективности ИИ.

Прародители Фейсбука собрали собственный алгоритм дистилляции из базовой text2image модели (Emu) на 2.7, которая тратит на адекватный результат 25 шагов, в Imagine Flash.

Подход объединяет три ключевых компонента: обратную дистилляцию, смещенную потерю реконструкции и коррекцию шума.

Работает, кстати, он очень просто:

• Обратная дистилляция: IF калибрует ученика по его собственной обратной траектории, уменьшая расхождения между обучающими и тестовыми данными.

• Смещенная потеря реконструкции: ученик адаптирует передачу знаний от учителя на основе временного шага. Ученик выделяет глобальную структуру на ранней стадии и детализирует ее позже (так упрощается поиск закономерностей).

• Коррекция шума: устраняет смещение на первом этапе для моделей прогнозирования шума, улучшая цвет и контрастность.

Эксперименты показали, что Imagine Flash сравняется с учителями всего за три шага, превосходя предыдущие технологии дистилляции, типичные для диффузионок ADD и LDMXL-Lightning.

Подобрали датасет, написали код, получили первые результаты работы нейронки после обучения.

Но модель нужно тестить со всех сторон.

Не получится продать ИИ заказчику или сдать своему руководителю без нормальной отчетности.

Всего есть 7 важных метрик, по которым модель оценивается.

• Accuracy: Процент правильных предсказаний относительно общего числа предсказаний.

• Полнота (Recall): Доля истинных положительных предсказаний относительно фактического числа положительных случаев.

• Точность (Precision): Доля истинных положительных предсказаний среди всех положительных предсказаний.

• F1-мера: Гармоническое среднее точности и полноты, полезное для неравномерно распределённых классов.

• ROC-AUC: Площадь под кривой ROC; показывает, как модель различает положительные и отрицательные классы.

• Mean Absolute Error (MAE) и Mean Squared Error (MSE) для регрессионных задач.

Идеальных моделей не бывает, поэтому метрики нужно догонять в зависимости от задачи.

Помимо учета метрик, нужно уметь: и оптимизировать модель через настройку гиперпараметров (о ней в статье на Хабре), и уменьшать предвзятость ИИ через кросс-валидацию или попросту разбиение тренировочных данных, и убирать эффект переобучения через регуляризацию.

Идеальный анализ качества модели, кстати, не обходится без графиков.

Но иногда всех вышеприведенных методов недостаточно.

Например, при ковариационном сдвиге распределение входных данных каждого слоя нейронки в меняется процессе обучения, из-за чего сети становится сложнее обучать.

Чтобы пофиксить проблему используется батч-нормализация, где среднее значение приближается к нулю, а стандартное к единицу через преобразование входных данных каждого слоя.

Чтобы пофиксить чрезмерную зависимость работы модели от отдельных нейронов применяют дропаут, который рандомно будет выключать некоторые узлы в сети на каждом этапе обучения.

Но главное – это не просто знать методы, а уметь анализировать.