移动通信网 云坪
人工智能正加速从辅助工具转变为业务基础设施，进入金融、医疗、工业、能源、政务等关键领域的核心生产系统。当AI真正参与业务决策、调用工具、操作系统乃至控制物理设备时，决策者关心的不再只是能力指标，而是安全可控性。中国电信集团科技委主任、集团原总经理邵广禄与中国电信科技委研究员南楠联合发表的署名文章提出，AI安全已从附加条件转变为基础能力，直接决定了AI能不能用、能用到什么程度、能够以多快速度实现规模化应用。文章给出了一个核心公式：AI高质量规模化应用等于有效性乘以可靠性乘以安全性——三者不是简单相加，任何一项接近于零，整体价值都会显著下降。这一定性判断将安全从“刹车片”重新定义为“加速器”，标志着产业界对安全与 发展关系的认知出现根本性转变。
【关键数据】
[1] AI能力呈现6个相互关联的变化方向
[2] AI安全风险地图分为6个层次
[3] AI安全产业细分为7大赛道
[4] 智能体安全需攻关7项关键技术
[5] AI保险闭环包含5个环节（安全评测、风险分级、保险定价、持续监测、理赔复盘）
文章系统梳理了当前AI能力呈现的六个相互关联的变化：一是从生成内容走向自主行动，风险从“说错了”升级为“做错了”；二是从单模型走向多智能体协作，单点错误可沿任务拆解、记忆共享或工具调用链条演变为系统性、链式风险；三是从辅助工具变为业务基础设施，直接影响核心业务决策与连续运行；四是从封闭模型走向开源普及，恶意使用成本下降、下游责任分散；五是从数字世界走向物理世界，具身智能、智能汽车和机器人的错误可能直接造成现实损害；六是竞争重心从模型训练转向规模化推理，安全关注点从“模型有没有风险”转向“整个系统能否长期可靠运行”。由此，AI安全边界扩展为贯穿基础设施、数据、模型、智能体与系统、应用与业务、社会与国家安全的六层风险地图，风险呈现链条化、涌现化、外溢化三个特征——一个提示注入可能借助智能体权限转化为真实业务操作，多个看似安全的模型连接后可能涌现新风险。传统“上线前做一次安全检测”的模式已经失效，安全必须贯穿数据、开发、部署、运行和退出的全生命周期。
从产业格局看，全球AI安全治理形成三种路径：美国偏重技术标准、商业平台和市场竞争，欧盟强调政府监管、安全标准和第三方保证，中国则强调政府监管、企业竞争与第三方认证、技术标准的协同。文章判断，AI安全已具备成为独立产业的基本特征，市场结构正在细分为模型安全评测、AI运行时安全、供应链安全、数据安全、智能体与非人身份安全、治理合规和第三方保证等七大赛道。商业模式也在演进：从以项目制咨询、红队测试为主的单点工具收入，逐步扩展到平台订阅、托管安全服务、审计认证等持续性收入。文章特别指出，智能体安全正在成为新的增长点，AI应用企业购买安全服务的意愿明显增强，安全产业的定位正从“限制风险”转向“使AI能够规模化进入核心业务”。不过现实收入规模仍远小于潜在市场，赛道越清晰、标准越统一，产业规模才越可能做大。
在产业链层面，文章提出安全能力内生化是关键趋势。过去很多安全能力在系统建成后外挂，智能体时代仅靠外围防护已经不够，安全需要与模型设计、智能体架构和业务流程同步建设，形成安全原生模型、安全原生智能体、安全原生平台和安全原生应用。技术攻关方向聚焦七个领域：身份认证、最小权限控制、工具调用安全、记忆安全、多智能体协同安全、行为审计和自动化红队测试，核心是回答三个问题——智能体是谁、被允许做什么、做错后能否及时发现并停止。在成本结构上，文章主张把AI安全纳入国家AI基础能力建设，与算法、算力、数据、资本、应用、人才等要素并列。同时，高质量安全数据集、漏洞与事件数据库、行业安全基准、红队攻防平台、风险监测预警体系等具有明显公共属性，需要政府、企业、高校和第三方机构共同投入，避免重复建设，形成统一的风险语言。
在商业化机制上，文章提出引入商业保险这一经济工具。逻辑在于：数据泄露、系统中断、智能体误操作和第三方财产损失等低频高损风险，恰恰是企业“不敢用”AI的主要顾虑，保险可分担剩余风险。更关键的是，保险能把抽象安全风险转化为可量化、可定价的变量——具备严格权限控制、上线前安全评测、持续运行监测、人工复核和紧急熔断、完整日志与责任追溯的企业，保费应更低、保障范围可以更广，安全能力由此从原则要求转化为可计算的经济收益。文章设想了“安全评测—风险分级—保险定价—持续监测—理赔复盘”的闭环，承保和理赔过程中沉淀的事故发生率、损失分布和控制措施有效性数据，可反向促进技术、标准和监管迭代。但AI保险仍面临责任链条不清、历史数据不足、风险动态变化、系统性风险集中、损失因果难以证明等五大难题，需要从静态保单转向动态保险、从单纯赔偿转向“保险+安全服务”，并探索产业链协同承保。
文章最后给出的产业判断是：安全技术决定风险能不能防，法律治理决定责任由谁承担，商业保险决定剩余风险能不能承受，三者缺一不可。当前AI能力越大，能够进入的领域越关键，获得的权限越高，安全失效的代价也越大，可信度正在成为AI规模化应用能否突破的关键瓶颈。企业并非看不到AI价值，而是担心发生事故后损失多大、风险能否控制、业务如何恢复、责任由谁承担，只有解决这些顾虑，AI才可能从局部试点真正走向规模应用。安全与发展不是此消彼长的跷跷板，而是相互促进的飞轮：AI应用扩张带来风险暴露，促使企业增加安全投入；安全产品规模化部署沉淀告警、攻击样本和处置反馈，提升检测与自动化能力；误报下降、风险可控后企业信任增强，更敢把AI放进核心业务。让安全能力与AI能力同步演进，形成技术、治理、产业和市场机制协同的安全体系，是把AI技术潜力转化为产业价值和社会价值的现实路径。
