Новые стандарты безопасности ИИ в Китае: аудит моделей
МИИТ КНР запустил разработку стандартизированной платформы оценки безопасности генеративных моделей.
Шесть осей, тридцать один риск
Новая система оценки выстроена вокруг шести критериев: безопасность контента, соответствие «руководящим ценностям» (терминология Пекина — де-факто идеологический фильтр), устойчивость, справедливость, защита конфиденциальности и надёжность. Под эти оси развернуто 31 конкретный сценарий риска, сгруппированных в пять категорий. Методология предполагает гибрид: автоматизированные тесты плюс ручная оценка. В фокусе — три системных слабости LLM: генерация неточной информации (hallucinations), утечки данных из тренировочных корпусов и атаки типа jailbreak — промпты, обходящие защитные механизмы модели.
Глобальная синхронизация регуляторного давления
Китай действует не в вакууме. В июне прошлого года Белый дом выпустил указ, предписывающий создание стандартного процесса оценки кибербезопасности передовых ИИ-моделей. ЕС в рамках AI Act требует от мультицелевых моделей прозрачности по обучающим данным; штрафы — до 3% глобальной выручки за нарушения общих требований, до 7% за работу в запрещённых применениях. Параллельно ЦБ РФ инициировал обсуждение регулирования банковских ИИ-моделей. Картина едина: государства переходят от деклараций к аудируемым стандартам.
Что это значит на практике
Для разработчиков и интеграторов LLM сигнал прямой: список из 31 риска — это де-факто чеклист, по которому модель будут тестировать. Пекин делает ставку на сертификационный подход: модель не пройдёт оценку — не попадёт на рынок. Сроки агрессивные: рабочая группа формируется прямо сейчас, критерии публично не детализированы.
Для глобальных компаний — вопрос двойного комплаенса: митигировать hallucinations и jailbreak одновременно под три регуляторных фреймворка с разными дефинициями риска. ЕС считает угрозой отсутствие прозрачности данных, Пекин — идеологическое несоответствие контента, Вашингтон — кибербезопасность. Набор тестов придётся расширять под каждый.
Открытых вопросов остаётся больше, чем закрытых: методика ещё не опубликована, критерии «соответствия руководящим ценностям» не формализованы, неясно, будут ли результаты оценок публичными и как стандарт КНР соотнесётся с ISO/IEC 42001. Инженерная реальность такова: тридцать один риск — это не потолок, а стартовая точка.