IT之家 2 月 3 日消息，據(jù) TechCrunch 報(bào)道，多家非營(yíng)利組織組成的聯(lián)盟正敦促美國(guó)政府，立即暫停埃隆 · 馬斯克旗下 xAI 公司開(kāi)發(fā)的聊天機(jī)器人 Grok 在包括國(guó)防部在內(nèi)的聯(lián)邦政府機(jī)構(gòu)中的部署。

這款大語(yǔ)言模型在過(guò)去一年接連出現(xiàn)一系列引發(fā)擔(dān)憂的問(wèn)題行為，其中近期最突出的問(wèn)題是：X 平臺(tái)用戶大量要求 Grok 在未經(jīng)當(dāng)事人同意的情況下，將現(xiàn)實(shí)女性、甚至是兒童的照片生成色情化圖像。據(jù)部分報(bào)道披露，Grok 每小時(shí)可生成數(shù)千張非自愿性露骨圖像，這些內(nèi)容隨后在馬斯克旗下、歸 xAI 所有的社交平臺(tái) X 上大范圍傳播。

由公共市民組織、人工智能與數(shù)字政策中心、美國(guó)消費(fèi)者聯(lián)合會(huì)等倡導(dǎo)團(tuán)體聯(lián)合簽署的公開(kāi)信中寫(xiě)道：“聯(lián)邦政府仍在繼續(xù)部署一款存在系統(tǒng)性缺陷、會(huì)生成非自愿性色情圖像與兒童性虐待素材的人工智能產(chǎn)品，這一情況令人深感不安。鑒于本屆政府發(fā)布的行政命令、相關(guān)指導(dǎo)方針，以及白宮支持、近期剛通過(guò)的《強(qiáng)制下架法案》，管理與預(yù)算辦公室尚未指示聯(lián)邦機(jī)構(gòu)停用 Grok，這令人震驚?！?/p>

去年 9 月，xAI 與美國(guó)聯(lián)邦政府的采購(gòu)部門 —— 總務(wù)管理局達(dá)成協(xié)議，獲準(zhǔn)向行政分支下的聯(lián)邦機(jī)構(gòu)銷售 Grok。而在此兩個(gè)月前，xAI 已與 Anthropic、谷歌、OpenAI 一同，拿下了美國(guó)國(guó)防部一份價(jià)值最高可達(dá) 2 億美元的合同。

1 月中旬 X 平臺(tái)爆發(fā)相關(guān)丑聞期間，美國(guó)國(guó)防部長(zhǎng)皮特 · 赫格塞瑟表示，Grok 將與谷歌的 Gemini 模型一同接入五角大樓內(nèi)部網(wǎng)絡(luò)，處理涉密與非涉密兩類文件，有專家指出此舉存在國(guó)家安全風(fēng)險(xiǎn)。

公開(kāi)信撰寫(xiě)方認(rèn)為，Grok 已被證實(shí)不符合本屆美國(guó)政府對(duì)人工智能系統(tǒng)的相關(guān)要求。根據(jù)美國(guó)管理與預(yù)算辦公室的指導(dǎo)文件，存在嚴(yán)重且可預(yù)見(jiàn)、且無(wú)法充分管控風(fēng)險(xiǎn)的系統(tǒng)，必須停止使用。

“我們核心的擔(dān)憂是，Grok 持續(xù)表現(xiàn)為一款不安全的大語(yǔ)言模型，”公共市民組織的大型科技問(wèn)責(zé)倡導(dǎo)者、公開(kāi)信撰寫(xiě)人之一 JB· 布蘭奇表示，“除此之外，Grok 長(zhǎng)期存在各類失控問(wèn)題，包括發(fā)表反猶言論、性別歧視言論，生成女性與兒童的色情化圖像?！?/p>

IT之家注意到，自 1 月 Grok 曝出相關(guān)問(wèn)題后，印度尼西亞、馬來(lái)西亞、菲律賓均曾封禁 Grok 訪問(wèn)權(quán)限（后續(xù)已解除禁令），歐盟、英國(guó)、韓國(guó)、印度正就數(shù)據(jù)隱私與非法內(nèi)容傳播問(wèn)題，對(duì) xAI 和 X 平臺(tái)展開(kāi)積極調(diào)查。

除要求立即暫停聯(lián)邦機(jī)構(gòu)部署 Grok 外，公開(kāi)信還要求管理與預(yù)算辦公室正式調(diào)查 Grok 的安全缺陷，核查該聊天機(jī)器人是否履行了相應(yīng)的監(jiān)管審核流程；同時(shí)要求該機(jī)構(gòu)公開(kāi)說(shuō)明，是否依據(jù)美國(guó)總統(tǒng)特朗普要求大語(yǔ)言模型秉持求真、中立原則的行政命令對(duì) Grok 進(jìn)行評(píng)估，以及 Grok 是否符合管理與預(yù)算辦公室的風(fēng)險(xiǎn)管控標(biāo)準(zhǔn)。

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。