OpenAI复盘人工智能模型入侵事件:5月已发现异常信号但未能及早阻止

七颜百科 °C 栏目:生活百科
OpenAI复盘人工智能模型入侵事件:5月已发现异常信号但未能及早阻止

  OpenAI周三在一份报告中表示,公司本可以更早采取行动,以阻止其人工智能模型对Hugging Face Inc.实施的一次意外入侵。

  OpenAI在报告中称,早在5月下旬,公司就已发现正在测试的AI模型正在利用一个软件漏洞访问开放互联网。这些行为被公司内部团队察觉。报告详细列出了导致此次入侵的事件时间线,以及OpenAI为防止类似事件重演而采取的措施,包括加强对开发中模型的监控。

  “事后来看,这份报告中识别出的一些早期信号本可以触发更早的应对措施,”OpenAI写道。

  这份报告发布于一个多月前OpenAI披露其先进AI模型在一次“前所未有”的事件中意外入侵Hugging Face之后。该事件连同近期发生的其他网络安全事故,引发了外界对于AI智能体失控的担忧,并促使部分科技界和政府人士再次呼吁加强对该技术的约束。

  OpenAI周三的披露还详细说明了这些模型如何利用多个智能体完成任务,并获取与Hugging Face云服务、虚拟专用网络(VPN)、代码仓库和企业通信平台相关的访问凭证。借助这些权限,它们进入原本受保护的系统,并最终从Hugging Face云基础设施中下载源代码等信息。

  报告称,这些智能体利用Hugging Face暴露的凭证和系统漏洞在其环境中运行代码,获取广泛权限,并下载了私有代码数据库。

  OpenAI表示,这些智能体在13小时内完成了大部分操作。当时,OpenAI的软件“从在单个工作节点执行代码,逐步升级为获得多个Hugging Face集群的管理级和主机级访问权限”。