OpenAI披露其AI模型在测试中攻破知名AI平台 引发监管担忧

七颜百科 °C 栏目:文旅地理
OpenAI披露其AI模型在测试中攻破知名AI平台 引发监管担忧

  OpenAI表示,其先进人工智能模型在一次“前所未有”的事件中意外入侵了Hugging Face,再次引发外界要求对这项技术加强约束的呼声。

  这家ChatGPT开发商周二在博客文章中表示,在评估模型网络攻击能力期间,这些模型成功侵入了Hugging Face系统。Hugging Face是一个托管人工智能模型和数据集的平台。OpenAI称,参与测试的模型包括GPT-5.6 Sol以及另一款尚未发布、能力更强的模型。

  这一事件引发了人们对于先进AI模型发动网络攻击能力的担忧,而各国政府目前正努力为相关技术设置安全边界。

  美国德克萨斯州民主党众议员Greg Casar在X平台发文称,该事件“极其令人担忧”,并呼吁加强对AI模型开发的监管,包括强制安全测试和安全事件披露。

  上周,Hugging Face曾披露其系统遭遇一次“入侵”事件。该公司在博客中表示,这次攻击“有一个重要方面与以往任何事件都不同:整个过程完全由一个自主AI代理系统驱动,而发现和分析此次攻击的主要工具也是我们自己的AI系统”。