|
当一位边境的快递员,不再因为每天拨打上百通客户电话而被系统误判停机; 当一位老人收到诈骗短信,在点击链接之前便已被精准拦截; 当反诈中心的工作人员,不再需要面对每天数百万条告警逐条筛查,而是把精力集中在真正高风险事件上…… 这些变化,并非来自更多的人力,也不是更多的规则,而是来自一种新的能力——AI开始参与安全决策。 今天,网络安全正在经历一次深刻的范式转换。 过去,安全依赖规则;如今,安全开始依赖智能。 面对诈骗手法以周、甚至以天为单位持续演化,仅靠人工经验和静态规则,已经越来越难以应对真实世界的复杂变化。能够持续学习、自主推理、动态演进的大模型和智能体,正在成为网络安全新的基础能力。
近日,在2026世界人工智能大会“模型驱动安全产业重构——AI产业技术安全生态论坛”上,中国网络安全产业创新发展联盟正式发布《“AI+网信安全”典型案例集》。 历经半年评审,专家组从通信、金融、公共安全等重点行业案例中,围绕创新性、可落地性、应用成效等多个维度,最终遴选出60项代表性实践。 东软联合运营商打造的两项案例成功入选,分别归属“人工智能赋能业务服务安全”和“人工智能赋能内容安全治理”领域。 这不仅是两项案例的入选,更代表着AI正在从“辅助安全”走向“重构安全运营”。 从“误伤”与“漏网”之间,走出第三条路 电信诈骗治理,一直存在一道行业难题。 为了防止诈骗号码漏网,系统往往采取更加严格的拦截策略;但与此同时,快递员、外卖骑手、网约车司机等大量高频通信群体,又容易因此被误判停机。 拦得严,容易误伤;放得松,又容易漏判。 长期以来,整个行业始终在两难之间寻找平衡。 东软与运营商联合打造的反诈智能体赋能电诈治理运营方案,重新定义了这一治理逻辑。 方案以大模型、多智能体协同、RAG知识增强和反诈知识图谱为核心,融合多维数据,让系统不仅能够识别风险,更能够理解风险、判断风险,并持续学习新的诈骗模式。 不同于传统依赖静态规则引擎,这套体系将反诈运营拆解为多个智能体协同完成。 有的负责发现新的涉诈特征;有的负责识别可信号码;有的持续评估模型效果;还有的自动生成分析报告,并推动模型持续优化。 整个反诈体系,从“人工运营”升级为“持续进化”。 在实际应用中,系统每天对海量通信号码进行智能研判,稳定保障外呼核验准确率,减少误判,大幅降低正常号码被误停机的发生率。 这意味着,每一天,都有上千名快递员、外卖骑手、网约车司机等高频通信用户,不再因为算法误判影响正常工作。 AI不仅识别风险,也开始守护每个人正常通信的权利。 当诈骗不断变化,AI开始理解内容本身 如果说反诈治理解决的是“谁值得信任”的问题,那么内容安全面对的,则是另一个更复杂的挑战—— 诈骗内容本身正在不断变化。 变体词、谐音字、图片、音频、视频…… 传统依赖关键词和固定规则的内容审核方式,越来越难跟上诈骗演化速度。 东软联合运营商打造的基于AI的消息实时研判与拦截管控方案,建立起“规则+AI”双层协同防护体系。 方案具备多模态识别能力,构建覆盖8大类、91个细粒度风险标签的识别体系,并通过AI技术,实现通信环境下的高并发、低时延、稳定运行。 更重要的是,大语言模型赋予系统真正的理解能力。 系统能够扩充识别能力,实时结合语义理解推理及用户行为进行风险推理;并持续对误判样本进行回溯训练与反馈学习,让模型不断成长。 整个安全体系形成“事前预测、事中研判、事后优化”的持续闭环。 运行实践表明:信息整体拦截准确率处于行业领先水平,漏拦、误判比例维持在低位;每天精准拦截大量风险信息,大幅缩减人工审核工作量。 这一系列成果的背后,是每天数十万次诈骗尝试,在用户毫无感知的情况下被提前化解。 安全,不再依赖“人海战术”,而开始依赖AI持续进化。 从“AI赋能安全”到“AI重构安全” 两项案例共同揭示了一个正在发生的产业趋势。 AI正在改变网络安全的底层运行方式。 过去,AI只是帮助安全系统识别更多风险;今天,AI已经开始参与分析、推理、决策、优化整个运营流程。 真正改变的,不是一项产品,而是一种运营模式。 这也是东软持续推进AI产业化落地的重要方向——不是把AI作为传统系统的一个功能模块,而是让AI成为业务运行的新引擎。 目前,依托自主可控的大模型、智能体、多模态识别等核心技术,东软已将AI能力广泛应用于医疗健康、政务民生、通信运营、智慧养老、能源、汽车等30多个重点行业,覆盖100余类业务场景,持续推动AI从实验室走向真实业务,从模型能力走向产业价值。 世界人工智能大会典型案例集收录的,不只是两项成功实践。 更是一份来自产业一线的答案: AI真正的价值,不是在展示模型有多强,而是在真实业务中持续做出更准确、更可靠、更高效的决策。 这,正是东软持续探索和实践的方向——让AI深入产业、服务产业、改变产业,成为千行百业数字化升级最可靠的智能引擎。 |
热点资讯
点击排行