2025年卓越成果奖
打造大模型生成内容安全融合检测工具 助力业务 AI+ 转型
作者:     时间:2026-05-28 01:46:00     浏览量:36

中国移动数智化部是中国移动集团数智化领域的统筹管理者,能力建设者和赋能者,负责 全网数智化转型、IT 系统发展等规划并推动落地,统筹推进 IT 架构升级、大数据应用、 能力中台建设等关键任务。部门致力于打造统一高效、敏捷智能的数智治理体系,强化两 级协同,推动全网集中规划、集约管理与分级应用,建强数智能力,赋能数智运营,推动 中国移动高质量发展。
一、案例简介
随着大模型加速落地,生成内容安全风险凸显,普遍存在合规识别难、防护成本高、系统适配 弱等挑战。中国移动数智化部自主研发面向生成式大模型的内容安全融合检测体系,支持敏感信息、 违规内容及伦理风险的实时识别与拦截。案例采用轻量化架构与模块化设计,推理延迟低、资源占用 少,通过“影子模型”部署实现业务无感接入,在保障用户体验的同时实时防控风险。已在智能营销、 标书生成等场景规模应用,覆盖全国 26 省“网格通”业务、16.4% 网格单元,累计检测超 300 万次, 拦截上千条高风险输入。对外可支持标准化 API 与私有化部署,可为金融、政务、能源等高合规行业 提供灵活、高效的安全能力,初步构建了大模型可信落地的实践路径。
二、亮点效果
本案例创新采用文本结构-语义解耦技术,结合影子部署模式,在严控算力与延迟的同时显 著提升检测鲁棒性,降低部署及运维成本。技术上兼顾精度与效率,支持主流大模型无缝切换; 经济上减少人工审核依赖,提升运营效能;社会效益上强化隐私保护与内容合规,推动 AI 治理从 事后处置转向事前防控。已在通信、政务等领域规模应用,形成可复用的大模型安全实践范式, 为行业提供轻量可靠的安全底座,助力可信 AI 生态构建与产业化落地。



