网安行业首个!启明星辰集团AIDR获智能体安全管理系统认证

七颜百科 °C 栏目:文旅地理
网安行业首个!启明星辰集团AIDR获智能体安全管理系统认证

(来源:启明星辰集团)

近日,启明星辰集团自主研发的端点AI智能体安全检测与响应系统(AIDR首批通过国家网络与信息系统安全产品质量检验检测中心(公安部第三研究所)的严格测试,斩获网安行业首个智能体安全管理系统认证证书。

随着AI智能体从辅助问答向任务执行加速演进,其自主对接大模型、调用工具、处理数据、执行本地任务的能力,已成为驱动企业数字化流程的新型生产力。然而,能力边界的拓展也放大了风险敞口。一旦遭遇提示词诱导、技能投毒、模型调用失控或运行环境异常等威胁,智能体便可能从效率工具沦为风险入口。

因此,AI智能体安全防护须深入会话交互、模型调用、工具使用、技能加载及执行链路等核心环节,覆盖全生命周期。

三大能力

构建AI智能体安全闭环

启明星辰集团AIDR面向智能体运行全流程,从“自身免疫安全、运行环境安全、系统安全”三个维度构建闭环防护体系,帮助企业实现智能体的可管理、可防护、可追溯,支撑其安全、稳定、规模化落地。

一是自身免疫安全。聚焦智能体自身可信度,围绕会话、模型调用、Skill技能、行为轨迹等关键对象,开展安全检测、审计与管控;通过大模型管控和模型白名单机制,规范智能体可连接、可调用的模型范围,降低非授权模型调用、敏感信息泄露、恶意插件引入等风险;

二是运行环境安全。关注智能体执行过程中的环境状态、行为边界与异常操作,及时识别并处置可能影响业务和数据安全的隐患,避免因误操作、诱导或环境异常引发安全后果;

三是系统安全。针对智能体所在终端、主机及相关系统环境,开展安全检测、风险识别与防护处置,降低基础系统风险,为智能体持续、稳定、安全运行提供底层保障。

安全实践

从设备防护到执行安全

在数智化转型进程中,某大型企业自主研发了企业级AI智能体,具备调用大模型、操作工具、处理数据和执行本地任务的全栈能力,广泛用于内部办公、研发协同和任务编排等核心场景。随着智能体从辅助问答深入任务执行,安全焦点从内容合规转向执行安全,一旦遭遇诱导攻击、技能投毒或越权执行,便可能引发数据外泄、流程误触发及关键操作无法追溯等严重后果。

针对上述挑战,启明星辰集团AIDR深度嵌入该智能体建设全生命周期,在会话交互、模型调用、工具执行、Skill使用及行为审计等关键环节,构建起细粒度的安全检测与响应机制,使安全能力从外围补丁升级为与智能体运行同步建设、深度融合的原生防线。

通过这一实践,启明星辰集团AIDR将端侧安全能力从传统设备保护延伸至智能体执行过程保护,在保障使用体验的同时,实现运行边界可管、行为过程可控、风险处置可查,为企业自研智能体的规模化推广提供了可复制、可落地的端侧安全建设范式。

当前,AI智能体正驱动新一轮生产力变革,重塑千行百业的生产方式,其安全防护也需与时俱进。启明星辰集团将持续深耕AI智能体安全能力建设,为智能体从连接到执行的全流程提供坚实支撑,助力用户筑牢安全边界,坚守可信运行底线。