Tekhnonacional

В настоящий момент в РФ  трудится порядка 800 тыс. специалистов  IT отрасли, действует несколько отраслевых ассоциаций, курирующих ее отдельные  сегменты. В то же время отсутствует единая структура, представляющая все IT-сообщество.

Необходимость создания отдельной ассоциации, по словам представителей «Цифровой России», обусловлена слабой вовлеченностью IT-специалистов в государственную информационную повестку. Также, общественное объединение может стать еще одним инструментом популяризации IT-сектора  и  выполнения социальных задач, которые сегодня стоят перед сферой, прежде всего, в части развития навыков цифровых компетенций у граждан.

Согласно предоставленной информации, ключевыми целями ассоциации станут защита цифровых прав и интересов граждан через широкое представительство и обсуждение цифровых инициатив и предложений, учет мнения общества и бизнеса, нахождение баланса интересов между государством и бизнесом, а также защита интересов самих IT-специалистов.

Стать членом объединения сможет любой IT-специалист, а также гражданин, работающий в смежных с IT-направлением сферах. В ассоциации будет действовать отдельный консультационный орган, оказывающий экспертную поддержку IT-специалистам в вопросах оформления льготной ипотеки, отсрочки от службы в армии, а также карьерного развития

В том числе вводятся определения технологической политики и суверенитета, высокотехнологичной продукции, критических и сквозных технологий, квалифицированного заказчика, собственной линии разработки технологий. На основе предложений бизнеса, институтов развития и ученых предусмотрен механизм формирования планов развития технологий.

По словам главы Минэкономики Максима Решетникова, речь идет о системе управления полным циклом разработки собственных технологий.

Общим ориентиром в этой работе выступает майский Указ Президента. На его основе в законопроекте сформированы те инструменты, с помощью которых будет достигнуто технологическое лидерство.

Первый из них – проекты по привлечению инвестиций и формированию долгосрочного спроса на готовую продукцию. Для ее реализации в том числе появляется функция квалифицированного заказа по разработке технологий.

Второй инструмент – соглашения между бизнесом и государством. С их помощью продолжится развитие новых рынков на базе межотраслевых или «сквозных» технологий. Например, Искусственный интеллект, квантовые вычисления и коммуникации, технологии новых материалов и веществ. Всего – 12 соглашений.

Главной задачей реализации технологической политики названо появление собственных линий разработки технологий. К процессу их освоения власти привлекут госкомпании, перезагрузив их программы инновационного развития — до сих пор они исполнялись формально и не привели к значимым результатам.

Правительство, также,  планирует перезагрузить механизм «права на риск» и разрешить «технологические песочницы», допускающие более рискованное экспериментальное регулирование ради инноваций. Эта норма позволит компаниям и инвесторам в сфере технологий в случае провала проекта не нести ответственность за потерю госсредств. Одна из крупных новаций — расширенное применение в этом вопросе экспериментальных правовых режимов.

В этом направлении Министерство цифрового развития, связи и массовых коммуникаций анонсировало разработку платформы для выявления дипфейков, созданных с применением ИИ.  Это стало частью стратегии национального проекта «Экономика данных», инициированного премьер-министром Михаилом Мишустином. По словам представителя Минцифры, рассмотрение возможности создания единой платформы для выявления фейковой информации, включая дипфейки, открывает новые перспективы в борьбе с дезинформацией. Однако для определения стратегии в решении этого вопроса требуется провести глубокие исследования для определения эффективных методов обнаружения и анализа поддельных материалов, созданных при помощи ИИ. Что вызывает сейчас бурные обсуждения в цифровой среде.

14 мая член комитета ГД по информполитике Антон Немкин сообщил,  что госдума начала разрабатывать законодательную инициативу по маркеровке контента, созданного нейросетями. Депутат также отметил, что законопроект разрабатывается совместно с экспертами и основываясь на опыте других стран. Каких именно экспертов и какие именно страны рассматриваются, как пример работы с маркировакой контента, созданного ИИ, Немкин не уточнил.

По словам Немкина, человеку важно иметь представление о том, с чем он имеет дело, отличать реальное от нереального, как и в случае с рекламой, - пользователя очень легко обмануть и завлечь куда-то, а задача государства не позволить это сделать. Депутат также поделился эстетической стороной вопросы, по его мнению маркировка может осуществляться при помощи графических или водяных знаков,она должна быть «ненавязчивой, но при том четкой и заметной для любогог пользователя».

По мнению Немкина, в силу того, что пока не ясно, какая экспертиза позволит распознавать степень участия машины и человека в одном и том же тексте, российские ИИ-сервисы должны автоматически маркировать любые сгенерированные тексты. В первую очередь, задуматься над подобными технологиями цифровой маркировки изображений нужно российским компаниям, развивающим компетенции в области генеративных нейросетей - прежде всего, "Сберу" и "Яндексу", предложил Немкин.

Пока Немким акцентирует внимание на текстовом контенте, мы обратились к опыту других стран и посмотрели, какой именно ИИ контент больше всего нуждается в регулировании и маркеровки. В контексте информационной безопасности, обнаружение и маркировка дипфейков является основным фокусом у государтсв.

На сегодняшний день выявление дипфейков не автоматизировано и пока основано преимущественно на анализе контента специалистами по информационной безопасности и криминалистами в ручную. Ведущие IT-специалисты видят несколько вариантов для решения проблемы с дипфейками. Одним из предложенных решений является разработка плагина, который будет автоматически сканировать веб-сайты на наличие контента, созданного с использованием искусственного интеллекта. Однако вопрос о его интеграции в социальные сети и мессенджеры остается открытым, и зависит от готовности их владельцев к такому изменению.

В других странах уже ведутся разработки интеллектуальных систем для определения сгенерированного контента. Intel представил технологию FakeCatcher  для обнаружения дипфейков в реальном времени. Как заявляет производитель, детектор обладает точностью 96 % и анализирует цветовые изменения кожи, характерные только для настоящих людей. В процессе работы используются инструменты Intel, включая OpenVino, OpenCV и Deep Learning Boost.

Онлайн-инструмент Sensity обнаруживает поддельные лица на фото и видео с помощью методов глубокого обучения и судебной экспертизы.

Для эффективного мониторинга и обнаружения дипфейков в социальных сетях, возможно, потребуется разработка специализированного ПО или получение доступа к API платформ. Также обсуждается вопрос о внедрении водяных знаков как средства защиты от неправомерного использования ИИ-контента. Хотя при этом стоит учитывать, что для сервисов такая маркировка может оказаться невыгодной, если она не станет обязательной. Таким образом, необходимо провести дальнейшие обсуждения и принять соответствующие нормативные акты.

В зарубежном опыте уже есть примеры использования маркировки контента, созданного с применением ИИ. Например, в Китае маркировать ИИ-контент необходимо в популярном сервисе TikTok. В США еще в прошлом году власти пришли к соглашению с крупными разработчиками генеративного ИИ о маркировке сгенерированного в их сервисах контента. Так на YouTube создатели должны указывать, если их видео были сделаны с помощью ИИ. Платформа  представила  новый инструмент в Creator Studio, который требует раскрытия информации об этом, если контент может быть воспринят зрителями как реальный.

«Сейчас многие продукты создаются на основе исходного кода, то есть на основе некоего полуфабриката, который в неизменном виде использовать достаточно сложно. И любая компания берет его в том виде, который уже написан, и дальше начинает код улучшать и дорабатывать»  – говорит директор IT-компании Oxygen Павел Кулаков.

Многие российские компании использовали open source в своих программах по лицензии. Теперь им  придется изучить условия соглашений. В них могло быть предусмотрено право на расторжение договора с юрлицом, попавшим под рестрикции. Если такой пункт был, аккаунты отечественных разработчиков в иностранных библиотеках просто заблокируют.

В зоне риска, в частности, компании «Астра», «Ланит» и структуры IBS, попавших в американский SDN-List.  Почти все перечисленные российские компании использовали открытые коды в продуктах, поскольку создание проектов с нуля занимает годы, а также требует крупных вложений и привлечения большого числа  программистов. Впрочем, даже если российские компании не отключат от библиотек, то их точно лишат техобслуживания и обновлений, полагают эксперты.

Российские подсанкционные компании уже теряли доступ  к открытым кодам. В 2022 году крупнейшая open source библиотека GitHub заблокировала аккаунты, в частности, «Сбера» и Альфа-банка. На этом фоне в Минцифры даже задумались о создании собственного хранилища на базе отечественных разработок,  но  пока дальше идей в этом плане не продвинулись.

Сами открытые коды разработчики продолжат использовать в любом случае. Для этого существуют  «серые схемы» обхода санкций.  Но  можно ждать удорожания процесса разработки, появляются дополнительные усилия, которые потребуется приложить. Хотя в краткосрочной перспективе санкции не повлияют на выполнение текущих контрактов внутри России, в долгосрочной — последствия могут оказаться весьма болезненными.