界面新闻记者 | 伍洋宇

界面新闻编辑 | 文姝琪

　　在2026世界人工智能大会（WAIC）暨人工智能全球治理高级别会议上，“AI治理”成为一个核心关键词。

　　7月17日上午，国家主席习近平在会议开幕式上发表题为《携手构建公正合理的全球人工智能治理体系》的主旨讲话。

　　同日，国家发改委发布《人工智能合作发展行动计划》（下称“计划”）。其中第六、第七条分别为“标准共建行动”与“安全治理协作行动”，指出“加强人工智能发展战略、治理规则、技术标准的对接协调”“加强网络安全威胁信息共享和应急处置合作，防范人工智能技术误用、滥用”。

　　为何在人工智能技术发展数年之后，AI治理在今天变得如此重要？这与AI大模型将该领域技术应用与商业化进程大幅推进密切相关。

　　阶跃星辰方面对界面新闻记者表示，过去两年，人工智能正在从能力展示走向任务交付，从对话工具走向生产系统。在这一过程中，人工智能的发展命题也正在发生深刻变化。

　　“未来的竞争不只来自模型能力本身，也来自智能体如何协作、如何交易、如何被评估、如何保障安全、如何形成可信的产业生态。”

　　随着AI从模型竞争进入产业竞争，对中国企业而言，如何让AI在现实世界中可控、可信、可负责也被纳入了核心竞争维度——这意味着AI治理正从监管议题变成产业命题。

　　企业为何需要AI治理？

　　与过去更多聚焦伦理原则、国际规则不同，今年企业讨论AI治理时开始更多关注场景落地。这是因为当AI真正进入核心业务场景，如何建立稳健、敏捷且符合监管要求的AI治理机制，将是制约产业落地成败的决定性因素。

　　当前，中国企业的AI应用呈现出两极分化的态势。一方面，AI Agent、具身智能和多模态大模型的工程化进程显著加快，正在加速覆盖制造、医疗、金融、终端等各行各业。但另一方面，产业落地的真实反馈也给市场带来了冷静的启示。

　　综合多方调研报告，AI应用在产业落地过程中存在一定现实困境：因技术应用能力差异，大中小型企业在AI项目上的ROI（投资回报率）分化明显，部分中小企业AI项目在上线后面临一定空置率；同时，尽管国内AI算力规模持续增长，但算力成本依然高企，并且企业AIGC方面的技术、合规与治理复合型人才缺口巨大。

　　一位参加WAIC论坛的金融产业人士对界面新闻记者表示，尽管当前模型能力已经大幅提升，但在金融领域的应用仍以流程提效为主，如智能客服、反欺诈审核、智能审贷、风险判别等，在更系统性的底层决策上，产业对于AI Agent的信任仍然有限。

　　在这背后，入侵风险、数据安全、责任归属等问题均是各个产业迈入AI应用下一阶段的共同门槛。

　　除了需求方，供应方的挑战同样存在。以模型厂商为例，大模型迭代速度极快，而合规合规审查、数据安全评估和科技伦理审查往往需要严谨的周期。如何在确保符合国家相关政策与监管要求的前提下，不延误商业落地窗口期，是企业面临的直接挑战。

　　此外，AI Agent在执行跨应用指令、调用企业敏感数据时，系统对接相对复杂。一旦缺乏清晰的治理框架，模型可能产生幻觉，或引发数据泄露、越权操作、黑盒决策等问题，这制约了企业在生产环境中使用AI的信心。

　　这也是AI企业开始进一步强调安全把控的主要原因。近来，模型厂商更高频提及安全测试、红队攻击等机制，展现模型上线前的风险验证流程；AI Agent平台也强调通过本地部署、可信执行环境等方式保护企业数据，或者把治理能力嵌入Agent平台，通过权限管理、流程审批和操作记录限制AI行为。

　　这些现实问题均意味着，随着AI技术进程不断加快、能力不断提升，AI治理手段也应当与时俱进、协同优化。

　　零一万物联合创始人沈鹏飞在WAIC现场受访时表示，从目前实践看，数据安全、个人信息保护、算法治理和内容安全已经具备相对明确的制度方向，但随着AI从单点工具进入核心业务，原有治理框架还需要从静态合规走向覆盖数据流动、系统权限和执行结果的动态治理。

　　他认为模型治理仍需重点补足，还要完善模型评估、过程审计、风险控制和责任认定。算力与基础设施治理则需要解决可负担、可获得和自主可控的问题，否则很多发展中国家和中小企业即使获得模型，也难以真正部署和持续迭代。

　　由此，在我国算法备案、安全评估等机制逐渐成熟，以及全球范围内AI治理框架的不断演进下，AI治理前置与优化的必要性日趋明显。

　　中国AI企业的实践方法论

　　相比欧美更多围绕监管立法推进治理，中国企业正在形成一种更偏工程化、应用导向的发展路径。

　　百度方面表示，中国拥有全球最丰富的应用场景、完整产业链和超大规模市场，为人工智能技术和应用提供了肥沃土壤，与此同时，中国更加注重人工智能技术与实体经济、真实场景、人民普惠需求结合，走出了一条以解决实际问题为导向的智能经济发展路径。

　　在这一背景下，MiniMax副总裁严奕骏认为，企业AI治理的核心目标是确保AI能力始终服务于人、尊重于人、保护于人，“AI治理并不是削弱创新，而是通过降低风险、建立信任，让创新走得更稳、更远。”

　　以应用最广泛的智能体治理为例，MiniMax的实践方法是通过注意力机制与强化学习训练降低长文本幻觉率，在企业级辅助智能体产品中坚持“关键操作人类确认”原则，通过可视化思维链提升决策过程的透明度和可追溯性，并建立常态化红队测试机制，持续发现和修复模型漏洞。

　　在产业落地方面，零一万物的思路是分场景治理。沈鹏飞以教育领域为例，团队正在推动“双师教育+AI助教”，AI承担备课、答疑、练习和学习反馈等辅助工作，教师继续负责启发、陪伴和个性化教育。

　　“未来最需要完善的，正是这种分场景治理。”沈鹏飞指出，“针对教育、政务、能源、交通的不同风险，分别明确数据归属、系统权限、业务责任与评价标准，让治理真正进入工作流。”

　　对企业而言，如何在融入国家层面搭建的AI治理体系的同时，平衡技术创新、商业进程与公共安全责任是更艰难的挑战。

　　对此，严奕骏认为，中国大模型企业应当秉持开放协同、主动参与和责任共担的态度，“既做技术创新者和产业赋能者，也做治理贡献者。”

　　一方面，企业应当把安全责任嵌入技术和产品全生命周期，从数据来源、模型训练、安全对齐、红队测试，到内容治理、隐私保护、未成年人保护和反滥用机制，形成系统化的治理能力。另一方面，企业也应积极参与行业标准和治理共识建设，以真实的技术研发与产品实践，为政策制定和标准完善提供一线经验。

　　作为AI大模型技术开源的重要参与者，智谱方面也表示，人工智能的竞争不是零和博弈，真正的安全源于开放而非封闭，公司将继续践行开源可信、普惠向善的企业社会责任，为全球人工智能治理与普惠发展贡献中国方案。

　　此次会议期间，世界人工智能合作组织也正式成立，其组织总部设在中国上海，将进一步推动全球人工智能的联合发展和治理。

　　沈鹏飞认为，这一联合性组织最重要的意义，是让更多国家，特别是“一带一路”国家和新兴经济体，在全球AI治理中拥有参与权、选择权和发展权。

　　他认为，在安全治理方面，它可以形成共同框架，减少企业跨国落地时面对的规则差异；在国际合作方面，让更多新兴经济体参与决策，推动合作从单向技术输出转向本地化的语言、数据、场景、人才和治理的能力共建。

　　“中国有丰富的产业场景、强大的工程化能力、活跃的开源生态和较高的成本优化能力，可以在这方面发挥非常积极的作用。”沈鹏飞表示。