IT之家 2 月 18 日消息,人工智能企業(yè)與美國軍方的關(guān)系正進入緊張的全新階段。位于舊金山、以“人工智能安全”為核心理念的初創(chuàng)公司 Anthropic,成為這場風(fēng)波的焦點。據(jù) Axios 最新報道,美國國防部正威脅終止與 Anthropic 價值 2 億美元(IT之家注:現(xiàn)匯率約合 13.83 億元人民幣)的合作項目,雙方核心分歧在于:私營企業(yè)應(yīng)在多大程度上管控軍方對其軟件(如 Claude 人工智能模型)的使用方式。

數(shù)月來,美國國防部一直在向四大人工智能巨頭 ——Anthropic、OpenAI、谷歌及 xAI 施壓,要求允許軍方將其模型用于“所有合法用途”。這本質(zhì)上意味著取消常規(guī)的安全限制,這些限制原本禁止普通用戶將人工智能用于武器研發(fā)、情報搜集或戰(zhàn)場作戰(zhàn)等敏感領(lǐng)域。
報道顯示,OpenAI、谷歌和 xAI 均表現(xiàn)出一定的靈活性。而 Anthropic 則是其中態(tài)度最為強硬的一方。該公司在兩個具體問題上劃下明確紅線:禁止使用 Claude 模型對美國民眾進行大規(guī)模監(jiān)控,以及禁止用于研發(fā)完全自主武器 —— 即無需人類介入即可自主開火的系統(tǒng)。
在美國軍方發(fā)起抓捕委內(nèi)瑞拉前總統(tǒng)尼古拉斯 · 馬杜羅的行動后,雙方矛盾徹底爆發(fā)?!度A爾街日報》披露,五角大樓在此次任務(wù)中,通過與數(shù)據(jù)公司 Palantir 的合作使用了 Claude 模型。這一事件引發(fā)了 Anthropic 內(nèi)部的質(zhì)疑。
據(jù)稱,當 Anthropic 詢問其技術(shù)是否被用于這場發(fā)生“火力打擊”(實戰(zhàn)交火)的抓捕行動時,美國國防部官員極為不滿。軍方認為這種事后審查完全不具備可行性,主張作戰(zhàn)人員在實戰(zhàn)行動中,不可能停下來與軟件供應(yīng)商逐一協(xié)商使用場景。
這場爭端凸顯了雙方巨大的文化沖突。Axios 援引官員的說法稱,Anthropic 是所有人工智能實驗室中最“意識形態(tài)化”的一家。據(jù)悉,該公司執(zhí)行極為嚴格的內(nèi)部使用政策,甚至連其工程師內(nèi)部,都對軍方相關(guān)業(yè)務(wù)存在不同意見。但五角大樓也陷入兩難:盡管摩擦不斷,官員們承認,在面向政府專項與涉密應(yīng)用場景中,Claude 目前的表現(xiàn)仍優(yōu)于競品。
若雙方無法達成一致,五角大樓暗示可能將 Anthropic 列為“供應(yīng)鏈風(fēng)險方”,并逐步尋找替代方案。而 Anthropic 方面則堅稱致力于維護國家安全,并強調(diào)自己是首家將模型接入涉密網(wǎng)絡(luò)的人工智能企業(yè)。目前,雙方仍在溝通之中。
廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。