Anthropic与OpenAI会停止向企业售卖自家最强AI模型吗?

七颜百科 °C 栏目:文旅地理
Anthropic与OpenAI会停止向企业售卖自家最强AI模型吗?

  作者:斯蒂芬妮・帕拉佐洛

  Anthropic 与 OpenAI 正在开发面向特定行业定制的 AI 应用与功能,这一举动令不少合作企业陷入窘境 —— 部分企业如今不得不和自己的主要 AI 模型供应商展开正面竞争。设计工具 Canva 就是最新遭遇该困境的企业。

  尽管发生了上述种种变化,大多数人仍然认为,Anthropic 和 OpenAI 会持续通过应用程序接口(API)对外提供模型服务,API 业务也是两家数十亿美元规模的收入来源。

  只要现状不变,企业就还有机会对抗来自供应商的全新竞争。但这个局面还能维持下去吗?

  近几周,我和这两家前沿 AI 实验室的研究人员,以及一批依赖最新大模型开发应用的创始人进行沟通,不禁开始思考:这套现状还能否延续。

  不少迹象表明,无论出于企业自身考量,还是迫于政府要求,Anthropic 与 OpenAI 都有可能削弱对外 API 所提供的最强模型能力。特朗普政府出于担心模型会被网络犯罪分子以及其他恶意主体滥用,已经向两家企业施压,要求部分新模型采取更加审慎的发布流程。在此期间,客户必须经过逐案审核,才能够获取模型访问权限。(特朗普政府近期发布指引,介绍大型 AI 企业在发布模型前可以遵循的一套特殊测试流程。)

  即便模型已经通过 API 向公众开放,出于同样的安全考量,Anthropic、OpenAI 依然有可能在部分任务上调低模型的输出性能。两家已经出现过这类操作,例如 Anthropic 的 Fable 模型,在网络安全相关任务上就做过性能限制。

  当然,如果是自家开发的垂直应用与功能,两家企业未必会对自家模型做性能降格处理。

  两家公司都发出过警告:未来的模型在黑客攻击、生物武器研发等领域,能力会达到危险的水平。到某个时点,AI 服务商可能会认为,想要阻止恶意使用者利用模型做这类坏事,已经难如登天;倘若犯罪分子真的突破防护、酿成恶果,企业将要承受极其猛烈的舆论反噬。听起来虽然有些极端,但它们有可能判定:彻底切断高级模型的对外访问权限,反而是更安全的选择。

  除安全因素外,还有其他动因促使两家收紧高级模型的 API 访问权限。两家都希望防范知识蒸馏(distillation)技术:竞争对手(尤其来自中国的 AI 企业),可以利用商用高级模型的输出结果,以此训练属于自己的新模型。

  一位 Anthropic 前研究员向我表示,想要彻底杜绝蒸馏行为,基本上是不可能实现的。倘若美国的 AI 厂商真心担忧不法分子利用 AI 模型在全球制造破坏,那么它们肯定不乐见自己间接帮助中国企业开发出权重完全开放、任何人都可以免费使用的先进模型。

  Anthropic 在上周发布的《AI 潜在灾难性风险报告》中写道:“如果经过蒸馏得到的模型继承了原始模型那些具备高危风险的能力,但是该蒸馏模型本身没有配套完善的安全防护,那么即便原始模型拥有严密防护,蒸馏后的模型依然会给全世界带来次生风险。”

  开源软件的支持者则表示,包括从 Anthropic 模型蒸馏而来的开源模型,恰恰能够帮助开发者抵御网络攻击。Hugging Face 就曾遇到过被 OpenAI 智能体入侵的事件,开源模型在这类场景下就能发挥防护作用。

  还有一种现实考量,听上去更为功利:Anthropic 和 OpenAI 也有可能出于商业目的切断 API 访问。正如此前报道提到的,部分投资人已经向开发者发出警示:Anthropic 有可能会扣留自家最强技术,转而开发可以和客户直接竞争的应用产品。

  不得不提的是,如果作为 AI API 市场绝对龙头的 Anthropic 真的这么做,必将迎来一场声势浩大的反垄断调查。

  当然,OpenAI 与 Anthropic 大概率也不愿意放弃 API 业务这块重要收入来源。不过,自研 AI 应用所能带来的潜在收益,甚至可能比 API 业务更加丰厚。就连 Anthropic 也已经入局 AI 驱动的药物研发等赛道。

  就目前而言,API 未来访问权限充满不确定性,这也解释了为什么 Harvey、Cursor 等 AI 应用开发商已经着手训练自研内部模型,不再完全依赖 OpenAI 和 Anthropic。后续肯定还会有更多企业效仿它们。