Нейросеть должна быть духовной. Официально
Нейросеть должна быть духовной. Официально
Подзаконные акты подъехали быстрее, чем ждали: чтобы ИИ-модель в России получила статус "национальной" или "суверенной" (а с ним и доступ к господдержке и госзакупкам), она теперь должна будет доказать не только законопослушность, но и соответствие "традиционным духовно-нравственным ценностям". Экзамен будут принимать аккредитованные лаборатории. Критерии- некие бенчмарки и провокационные промты, включая попытки взломать модель через промпт-инъекции.
Что известно:
- Проверять соответствие смогут независимые аккредитованные лаборатории (не одна, а несколько конкурирующих).
- Разработчик сначала сам тестирует модель по риск-ориентированной методике, потом лаборатория выборочно перепроверяет.
- Отдельного списка ценностей для ИИ писать не будут — возьмут за основу указ президента №809.
- Финальное решение о статусе за Минцифры, критерии безопасности для госсистем проверят ФСБ и ФСТЭК.
- Обязательной эта проверка будет только для тех, кто хочет господдержку, то есть по рынку в целом никто гонять модели через такую сертификацию не обязан.
Эксперты уже отмечают главный риск: понятия вроде "гражданственности" или "исторической памяти" плохо переводятся в технические требования, так что итоговая методика рискует оказаться довольно оценочной и субъективной. Соответственно, есть шанс избирательного применения. Предлагают вводить сроки действия сертификатов, публичный реестр заключений и апелляционную коллегию вне отрасли.
Как думаете, реально ли формализовать «духовность» в виде бенчмарка для нейросети?
Источник: www.vedomosti.ru
Искусственный интеллект
6.2K постов12.1K подписчиков
Правила сообщества
ВНИМАНИЕ! В сообществе запрещена публикация генеративного контента без детального описания промтов и процесса получения публикуемого результата.
Разрешено:
- Делиться вопросами, мыслями, гипотезами, юмором на эту тему.
- Делиться статьями, понятными большинству аудитории Пикабу.
- Делиться опытом создания моделей машинного обучения.
- Рассказывать, как работает та или иная фиговина в анализе данных.
- Век жить, век учиться.
Запрещено:
I) Невостребованный контент
I.1) Создавать контент, сложный для понимания. Такие посты уйдут в минуса лишь потому, что большинству неинтересно пробрасывать градиенты в каждом тензоре реккурентной сетки с AdaGrad оптимизатором.
I.2) Создавать контент на "олбанском языке" / нарочно игнорируя правила РЯ даже в шутку. Это ведет к нечитаемости контента.
I.3) Добавлять посты, которые содержат лишь генеративный контент или нейросетевой Арт без какой-то дополнительной полезной или интересной информации по теме, без промтов или описания методик создания и т.д.
II) Нетематический контент
II.1) Создавать контент, несвязанный с Data Science, математикой, программированием.
II.2) Создавать контент, входящий в противоречие существующей базе теорем математики. Например, "Земля плоская" или "Любое действительное число представимо в виде дроби двух целых".
II.3) Создавать контент, входящий в противоречие с правилами Пикабу.
III) Непотребный контент
III.1) Эротика, порнография (даже с NSFW).
III.2) Жесть.
За нарушение I - предупреждение
За нарушение II - предупреждение и перемещение поста в общую ленту
За нарушение III - бан