Нейросеть должна быть духовной. Официально⁠⁠

Подзаконные акты подъехали быстрее, чем ждали: чтобы ИИ-модель в России получила статус "национальной" или "суверенной" (а с ним и доступ к господдержке и госзакупкам), она теперь должна будет доказать не только законопослушность, но и соответствие "традиционным духовно-нравственным ценностям". Экзамен будут принимать аккредитованные лаборатории. Критерии- некие бенчмарки и провокационные промты, включая попытки взломать модель через промпт-инъекции.

Что известно:
- Проверять соответствие смогут независимые аккредитованные лаборатории (не одна, а несколько конкурирующих).
- Разработчик сначала сам тестирует модель по риск-ориентированной методике, потом лаборатория выборочно перепроверяет.
- Отдельного списка ценностей для ИИ писать не будут — возьмут за основу указ президента №809.
- Финальное решение о статусе за Минцифры, критерии безопасности для госсистем проверят ФСБ и ФСТЭК.
- Обязательной эта проверка будет только для тех, кто хочет господдержку, то есть по рынку в целом никто гонять модели через такую сертификацию не обязан.

Эксперты уже отмечают главный риск: понятия вроде "гражданственности" или "исторической памяти" плохо переводятся в технические требования, так что итоговая методика рискует оказаться довольно оценочной и субъективной. Соответственно, есть шанс избирательного применения. Предлагают вводить сроки действия сертификатов, публичный реестр заключений и апелляционную коллегию вне отрасли.

Как думаете, реально ли формализовать «духовность» в виде бенчмарка для нейросети?

Подпишись на мой ВК и Дзен и астрологи объявят неделю изобилия до конца года)

Источник: www.vedomosti.ru