Anthropic首席执行官发声:从未主张禁止开放权重模型

七颜百科 °C 栏目:生活百科
Anthropic首席执行官发声:从未主张禁止开放权重模型

  Anthropic首席执行官达里奥·阿莫代伊周一表示,该公司“从未主张禁止开放权重模型”,以此回击科技界日益涌现的批评声音 ,即这家人工智能实验室试图对人工智能的未来施加过度管控。

  阿莫代伊在一篇博客文章中发表了其观点,此前包括英伟达、微软、Meta和Palantir在内的多家科技公司上周五发布了一封信函,敦促政策制定者避免对开放权重模型实施“过早限制”。这类模型可供用户自行下载、修改并在自有基础设施上运行。

  Anthropic最为人熟知的成果是自研一系列专有模型Claude,并面向企业提供商业化服务。其主要竞争对手OpenAI同样以研发闭源模型为主,但在一封关于开放权重模型的公开信发布后,OpenAI 选择表态支持,Anthropic 则并未参与。

  阿莫代伊写道:“概括我个人以及 Anthropic 的立场:我们过去没有、现在也不主张全面禁止开放权重模型这一类别。我们应当把重心放在以下方面:防止高性能芯片落入威权势力手中、遏制大规模模型蒸馏行为,同时要求所有具备足够能力的模型 —— 无论开源还是闭源 —— 都必须开展安全测试。”

  蒸馏是一种人工智能训练方法,通过使用市场上已有的大型模型的输出结果,构建出规模更小、能力更弱的模型。

  在上周五的信中,签署者表示,应通过“有针对性的法律和商业框架”来解决对非法蒸馏活动的担忧,阿莫代伊周一对这一观点表示赞同。

  阿莫代伊称,他也认同这封公开信中的其他观点,即开放权重模型能够让用户拥有更大自主权、拓宽人们参与人工智能经济的渠道,并在部分应用场景下促进竞争。但他并不认同以下看法:开放权重模型对网络防御方更为有利,或是能让用户更轻松地搭建安全防护机制。

  即便如此,阿莫代伊明确表示,他不支持封禁开放权重模型。

  阿莫代伊表示:“采取保护主义式的禁令,无法解决我最为担忧的国家安全问题。”