财联社2月26日讯(编辑 黄君芝)美国人工智能初创公司Anthropic首席执行官达里奥·阿莫迪周四表示,尽管五角大楼威胁要将该公司从国防部的系统中移除,但该公司无法在人工智能(AI)安全保障争议中满足五角大楼的要求。
据悉,五角大楼之前与Anthropic签订了一份价值2亿美元的合同,而双方目前争议的焦点在于后者为其人工智能模型Claude设置的种种限制。
一方面,五角大楼希望Anthropic解除限制,允许军方将该模型用于“所有合法用途”。而另一方面,Anthropic始终认为,人工智能的可靠性不足以操控武器,而且目前还没有任何法律法规来规范人工智能在大规模监控中的应用。
阿莫迪周四表示,美国国防部已明确表示,只会与同意“任何合法用途”并取消安全措施的人工智能公司签订合同。但Anthropic与该部门签订的合同中从未包含大规模国内监控和完全自主武器等AI应用案例,“我们认为现在也不应该包含这些案例”。
据一位五角大楼官员此前透露,Anthropic必须在周五下午5点01分之前“要么同意,要么拒绝”。如果该公司不同意,美国国防部长皮特·赫格塞斯将确保“对Anthropic公司援引《国防生产法》,强制五角大楼使用其产品,无论该公司是否愿意”。
这位官员还表示,赫格塞斯还将把Anthropic公司列为“供应链风险”。
对此,阿莫迪回应称,“尽管如此,这些威胁并不会改变我们的立场:我们不能昧着良心答应他们的要求。”
当天早些时候,五角大楼发言人肖恩·帕内尔表示,国防部对使用AI对美国人进行大规模监视没有兴趣,也不想使用人工智能开发无需人类参与即可运行的自主武器。
“我们要求的是:允许五角大楼将Anthropic的模型用于所有合法用途。”他补充道。
阿莫迪还称,“选择与国防部愿景最契合的承包商是国防部的特权。但鉴于Anthropic公司的技术将为我们的武装部队带来的巨大价值,我们希望他们重新考虑。”
“如果国防部选择终止与Anthropic的合作,我们将努力确保顺利过渡到其他供应商,”他补充道。
Anthropic的一位发言人也表示,该公司仍然“准备继续谈判,并致力于保障国防部和美国作战人员的行动连续性”。