开栏语：4月27日，全国工业和信息化系统先进集体、劳动模范和先进工作者表彰大会在京举行，这是工业和信息化部组建以来进行的首次全系统表彰，也是省部级表彰中少有的面向行业企业的重要表彰。为充分发挥先进典型的示范作用，弘扬劳模精神、劳动精神，《人民邮电》报今日起开设“工信先模风采”专栏，聚焦全国工业和信息化系统在以习近平同志为核心的党中央坚强领导下，深入实施制造强国、网络强国战略的生动实践，多角度报道广大干部群众的奋斗故事和精神风貌。
上传一张静态照片，即可生成动态视频；只需几秒语音，就能克隆声音……这不是科幻电影，而是发生在身边的真实事件，“AI换声换脸”正成为侵权违法的重灾区。
生成式人工智能的爆发式发展，在推动社会数字化转型的同时，也为灰黑产提供了新型技术武器。基于深度合成技术的换脸、换声攻击，已渗透至通信网络视频、远程会议、实人认证等各类核心场景，形成“伪造—攻击—变现”的完整黑产链条。此类攻击不仅突破传统生物识别防御体系，更以高度拟真的技术动摇数字社会信任根基。普通人用肉眼几乎难以辨别这种新型伪造手段，而通过深度鉴伪、算法对抗等人工智能技术，高科技系统则可以瞬间鉴别真伪并发出预警提示。
随着国内各大研究机构与技术厂家纷纷投入深度鉴伪技术的研究和开发，相关产品的技术能力水平与系统稳定健壮性也备受行业关注。中国信通院安全研究所持续开展对深度合成鉴伪检测能力测评工作，测评成绩最终按基本级、增强级、优秀级三个等级区分。据悉，天津市国瑞数码安全系统股份有限公司自主开发的深度伪造音视频鉴伪系统成为国内首个且目前唯一在音频、视频双维度均获“优秀级”认证的产品，这标志着国瑞公司AI安全产品与技术迈入行业领先梯队。
在全国工业和信息化系统先进集体、劳动模范和先进工作者表彰大会上，国瑞公司凭借在网络与数据安全领域的深厚积淀和突出贡献，荣获“先进集体”称号，并作为先进集体代表参加表彰大会。这次表彰是工业和信息化部组建以来进行的首次全系统表彰，表彰在推进工业和信息化事业进程中涌现出的立足岗位、开拓创新，勇于担当、甘于奉献的先进典型。会后，国瑞及产学研行业专家多方面解读了如何运用AI技术对抗AI风险，筑牢网络数据安全屏障。
核心技术自立自强
构建“AI对抗AI”闭环生态
“AI深度鉴伪技术是数字时代的‘新压舱石’，这类产品与应用可有效抵御各类基于深度合成与伪造手段的传播风险与诈骗风险，为保护国家网络空间安全和人民群众财产安全提供有效的技术保障与支撑。我们不仅要解决核心技术问题，更要构建从检测到拦截的全链条防御体系。”国瑞公司总裁肖洪涛表示，“国瑞研发的动态对抗样本库集成了60余类深度伪造生成模型，构建了千万级的正负样本动态对抗训练体系，并运用分布式训练框架实现算法模型的持续进化。同步开展模型压缩、硬件加速等工程化调优，确保技术成果转化为可落地的工业级解决方案。面对大模型技术带来的新型挑战，国瑞已率先布局‘垂直检测+综合研判’的下一代防御体系。”
提到该技术的实际应用场景，肖洪涛说：“在深度鉴伪应用领域，国瑞率先将该技术集成到自研的反诈智能体产品中。通过标准化API接口与Function Call技术，将音视频鉴伪引擎无缝嵌入智能反诈工作流，形成‘实时检测—风险评级—自动拦截’的闭环防护机制，在实人认证、视频会议等场景中实现攻击行为的秒级阻断。我们还建立了一套灰黑产技术动态追踪机制，通过样本情报共享、攻击模式挖掘等手段，持续更新防御策略库，确保对新型攻击手段的快速响应能力。”
国瑞AI安全实验室负责人孙涛进一步阐释技术细节。首先，针对换脸、面部重演等视觉攻击，创新研发“空频双域不一致性融合图像伪造检测模型”，通过多尺度时序卷积网络，逐帧解析面部微表情、光照反射、肌肉运动等生物特征，构建像素级时空关联模型，精准捕捉生成式AI难以模拟的生理动态特征。同时，采用频域变换与特征重构技术，解析视频信号在频域的能量分布规律，识别深度伪造技术特有的频域伪影与频谱畸变，突破传统视觉检测的技术盲区。双域特征通过动态权重融合机制，形成互补增强的检测能力，显著提升复杂光照、动态模糊等恶劣场景下的鲁棒性。其次，面向TTS语音合成、声纹克隆等音频攻击，打造“频谱—时序双维度语音伪造检测模型”，通过梅尔频谱分析与子带分解技术，提取语音信号在频域的共振峰、谐波结构等物理特征，构建声学指纹数据库，有效识别合成语音的频谱失真。并且引入长短时记忆网络与自注意力机制，分析语音信号的时序连贯性，捕捉伪造音频在语速波动、情感表达等方面的非自然跳变，建立多维动态检测模型。双维度检测结果通过级联决策机制输出，形成对主流语音伪造技术的立体化防御网络。
产学研协同
从理论到应用的“双螺旋”
中山大学人工智能研究院副院长、计算机学院网络空间安全研究所所长、信息技术教育部重点实验室主任卢伟教授是人工智能安全与对抗领域的知名专家，他所带领的团队承担过多项深度伪造检测方面的国家重点研发计划课题，亦和国瑞公司共建了联合创新团队。在合作模式上，卢伟介绍：“高校团队参与技术路线选择与理论框架构建，聚焦深度伪造检测的底层算法模型优化。本次合作中基于生成对抗网络逆向解析、数字媒体取证理论等前沿方向，我们创新提出了多模态伪造痕迹追踪模型，攻克动态伪造场景下的特征漂移难题，为系统提供坚实的学术理论支撑。而国瑞公司的研发团队则主导算法设计、开发、训练与系统工程化落地，并将算法调试为毫秒级响应的轻量化模型。这种‘学术—产业’双螺旋模式，让实验室成果在短期内即可转化为工业级产品。”
技术赋能风险防控
筑牢民生财产安全数字屏障
“当前，电信网络诈骗犯罪已成为数量上升最快的刑事案件类型，诈骗手法多变、技术对抗升级、AI技术亦被大量使用。”某通信网络安全技术专家说，“面对不断迭代更新的诈骗技术，我们以技制技，充分利用人工智能、机器学习等技术，不断提升发现、打击、反制的技术能力，力争把防线设立在电信网络诈骗行为实施之前或者实施过程当中。”
该专家表示：“防范伪造音频、视频、图像诈骗，技术上同样是‘用人工智能反制人工智能’，用机器反向学习AI换脸拟声、证件伪造等手段，然后通过大模型大量的训练和优化，当网络中出现违法犯罪行为，我们便可以采用不同的模型和策略迅速做出相关防御动作。人工智能不仅帮助老百姓提高技术防范能力，同时还可以赋能信息通信行业，开展多业务多场景的技术反制工作。”
初心不改
技术向善的使命担当
“AI是一把双刃剑，我们的责任是让技术始终服务于国家和人民。”肖洪涛表示，“作为国内首个通过信通院音视频深度鉴伪双优认证的企业，国瑞已形成‘算法研发—系统集成—场景落地’的完整技术闭环。该解决方案在部省级关键领域实现规模化部署，成功监测拦截多起AI伪造攻击事件。未来国瑞将持续深化‘用AI治理AI’的技术理念，通过产学研协同创新机制，推动深度鉴伪技术向多模态检测、主动防御等方向演进，为构建可信数字社会提供有效技术支撑。”
1999年，北京邮电大学杨义先教授带领师生团队创办国瑞公司，以“守护国家信息安全”为初心，投身于通信网络安全、信息安全事业，攻坚克难，锐意进取。国瑞公司成立26年来，承担相关国家部委的100余项课题，承建多项全国性信息化系统，牵头或参与50余项信息安全领域的国家／行业标准制定，获得数百项发明专利、软件著作权。在网络安全领域，国瑞为全国工信网信系统贡献了数十万的AI检测违规样本，上报上万个原创漏洞，为客户提供数以千计的安全建设规划和解决方案。
肖洪涛表示，获得全国工业和信息化系统先进集体称号是公司至高的荣誉，更是坚定的责任。在数字化浪潮的推动下，国瑞将紧跟时代步伐，永葆爱党爱国政治本色，扛牢推进新型工业化的使命责任，聚焦人工智能领域，深入开展网络数据安全前沿技术研究与产品创新，致力于为信息通信行业提供面向未来的AI安全防御与风险治理解决方案，为国家应对未来复杂多变的网络安全挑战提供有力支撑。
编辑：曹倩
AI
新浪科技公众号 “掌”握科技鲜闻 （微信搜索techsina或扫描左侧二维码关注）
相关新闻 