Anthropic首席执行官等多位AI大牛签署联名信,呼吁控制人工智能发展步伐

七颜百科 °C 栏目:科技科普
Anthropic首席执行官等多位AI大牛签署联名信,呼吁控制人工智能发展步伐

  超过1100名来自领先人工智能公司的高管及员工联名签署了一封公开信,呼吁美国政府 “支持国际社会共同打造技术与治理工具,以此对前沿自动化人工智能的发展节奏实施有序管控”。

  这封信于当地时间周二发布,并获得了Anthropic 与 OpenAI 的支持,签署者包括 Anthropic首席执行官达里奥・阿莫代伊、OpenAI 首席科学家雅各布・帕霍茨基、谷歌安全与对齐副总裁安卡・德拉根,以及Meta AI首席科学家赵晟佳、

  上周,在一场网络安全测试中,OpenAI 模型突破内部测试系统,并入侵模型代码库平台 Hugging Face,引发人工智能行业从业人员警觉。研究人员在信函中写道,领先的人工智能实验室认为人类距离实现 AI 自主研发已不远。研究人员表示:“目前很难精准预判这会让人工智能技术发展提速多少,但真实风险客观存在 ——AI 能力的迭代速度可能急剧加快,最终超出我们理解、管控这类系统的能力。”

  据报道,特朗普政府正在制定一个自愿性框架,要求人工智能企业在向公众发布其最先进模型之前,先将模型提交给政府。