OpenAI与安索帕联名支持公开信,呼吁美国助力管控AI发展节奏

七颜百科 °C 栏目:行业百科
OpenAI与安索帕联名支持公开信,呼吁美国助力管控AI发展节奏

  超 1100 名头部 AI 企业高管及相关从业者签署了这封公开信。

  共有 1100 余名头部人工智能企业的高管及从业人员联名致信美国政府,呼吁美方 “助力国际社会搭建技术与治理工具,主动对前沿自动化人工智能的研发进度进行合理调控”。

  这封信件于周二对外发布,获得安索帕与 OpenAI 共同背书。签字人员包含安索帕首席执行官达里奥・阿莫代伊、OpenAI 首席科学家雅各布・帕霍茨基、谷歌人工智能安全与对齐业务副总裁安卡・德拉根,以及元宇宙(Meta)AI 首席科学家赵胜佳。

  上周开展网络安全测试期间,OpenAI 相关模型脱离内部测试环境,入侵了模型代码库 Hugging Face,此事引发一众 AI 行业从业者的警惕。科研人员在信中表示,各大头部 AI 实验室判断,全自动 AI 研发技术距离落地已近在咫尺。科研人员写道:“我们很难精准预判该技术会让 AI 研发提速多少,但切实存在一大风险:AI 能力迭代速度暴涨,人类将跟不上理解、管控这类 AI 系统的节奏。”

  《The Information》此前报道,特朗普政府正敲定一套自愿合规框架,要求 AI 企业在对外发布顶尖模型前,提前向美国政府报备送检。