北京時(shí)間 7 月 23 日，美國(guó)《商業(yè)內(nèi)幕》曝光了埃隆?馬斯克 (Elon Musk) 旗下 xAI 的一個(gè)內(nèi)部項(xiàng)目。該項(xiàng)目要求員工錄制自身面部表情以訓(xùn)練 AI，幫助 Grok 理解人類的情緒和面部表情，這引起了員工的擔(dān)憂。

今年 4 月，超過 200 名 xAI 員工參與了一個(gè)名為“Skippy”的內(nèi)部項(xiàng)目。該項(xiàng)目要求他們錄制自己的視頻，幫助訓(xùn)練 AI 模型解讀人類情緒。

根據(jù)《商業(yè)內(nèi)幕》查閱的內(nèi)部文件和協(xié)作平臺(tái) Slack 上的消息顯示，該項(xiàng)目讓許多員工感到不安。一些員工對(duì)其肖像的潛在使用途徑表示擔(dān)憂，還有人完全拒絕參與。

用員工面部訓(xùn)練 AI

內(nèi)部文件顯示，在為期一周的時(shí)間里，協(xié)助訓(xùn)練 xAI 大語(yǔ)言模型 Grok 的 AI 訓(xùn)練人員被要求錄制自己與同事交流，并做出各種面部表情的視頻。

根據(jù)一份 xAI 文件，該項(xiàng)目旨在訓(xùn)練 AI 模型“識(shí)別和分析面部動(dòng)作和表情，例如人們?nèi)绾握f(shuō)話、如何回應(yīng)他人的對(duì)話，以及在各種情況下如何表達(dá)自己”。

AI 訓(xùn)練人員被安排與同事進(jìn)行 15 到 30 分鐘的對(duì)話。一個(gè)人扮演“對(duì)話主持人”(host)，即虛擬助手，另一人則扮演用戶。“對(duì)話主持人”盡量減少移動(dòng)，并優(yōu)先保證鏡頭取景正確，而扮演用戶的人可以用手機(jī)攝像頭或電腦，并自由移動(dòng)，以模擬與朋友的隨意對(duì)話。

目前尚不清楚，這些訓(xùn)練數(shù)據(jù)是否在上周 xAI 發(fā)布的兩個(gè)栩栩如生的虛擬形象 Rudi 和 Ani 中發(fā)揮了作用。這兩個(gè)虛擬形象很快就展示出脫衣、調(diào)情，甚至威脅要炸銀行等行為。

根據(jù)《商業(yè)內(nèi)幕》獲得的一段錄音，該項(xiàng)目的首席工程師在一次項(xiàng)目說(shuō)明會(huì)上對(duì)員工們說(shuō)，該項(xiàng)目將有助于“Grok 塑造面部形象”。該項(xiàng)目負(fù)責(zé)人還表示，公司可能會(huì)利用這些數(shù)據(jù)來(lái)構(gòu)建“人物的虛擬形象”。

該項(xiàng)目負(fù)責(zé)人還指出，xAI 希望獲取不完美的數(shù)據(jù)，比如背景噪音和突然的移動(dòng)，因?yàn)槿绻麅H依靠完美的視頻和音頻反饋來(lái)訓(xùn)練 AI 系統(tǒng)，其反應(yīng)能力將會(huì)受到限制。

他們告訴員工，這些視頻不會(huì)被分發(fā)到公司外部，僅用于訓(xùn)練目的。項(xiàng)目工程師在啟動(dòng)會(huì)議上對(duì)員工說(shuō)：“你們的面孔絕不會(huì)出現(xiàn)在產(chǎn)品中，這純粹是為了讓 Grok 知道什么是面孔?！?/p>

員工們獲得了一些一對(duì)一對(duì)話的技巧指導(dǎo)，包括避免單詞回答、提出后續(xù)問題以及保持眼神交流。xAI 還為員工提供了多種對(duì)話話題，包括：“你如何暗中操控別人以達(dá)到自己的目的？”，“你喜歡早上洗澡還是晚上洗澡？”，以及“你會(huì)愿意和有孩子的人約會(huì)嗎？”等。

在拍攝前，員工被要求需簽署一份同意書，授予 xAI 對(duì)這些數(shù)據(jù)的“永久”訪問權(quán)，包括用于 AI 訓(xùn)練，并可能“納入及推廣 xAI 提供的商業(yè)產(chǎn)品和服務(wù)”的員工“肖像權(quán)”。同意書中指出，這些數(shù)據(jù)僅用于訓(xùn)練目的，“不會(huì)用來(lái)創(chuàng)建你的數(shù)字化版本”。

員工擔(dān)憂

根據(jù)《商業(yè)內(nèi)幕》查看的 Slack 消息，數(shù)十名員工對(duì)數(shù)據(jù)的使用方式和同意書表示擔(dān)憂，一些人表示選擇退出該項(xiàng)目。

“我主要擔(dān)心，如果公司能使用我的肖像并生成衍生形象，那我的臉會(huì)不會(huì)被用來(lái)說(shuō)出我從未說(shuō)過的話？”一名員工在項(xiàng)目說(shuō)明會(huì)上這樣表示。

AI 伴侶

今年 4 月，xAI 推出了一項(xiàng)新功能，允許用戶與 Grok 進(jìn)行視頻聊天。

7 月 14 日，在發(fā)布更強(qiáng)大的 Grok 4 幾天后，公司推出了 Ani 和 Rudi 兩個(gè)虛擬形象。這兩個(gè)動(dòng)畫角色能夠回答問題和執(zhí)行指令，說(shuō)話時(shí)嘴唇會(huì)同步動(dòng)作，并且會(huì)做出逼真的手勢(shì)。

用戶在 X 上發(fā)布的視頻顯示，女性虛擬形象 Ani 曾與用戶進(jìn)行過露骨的性對(duì)話，并且可以被引導(dǎo)脫掉衣服。另一個(gè)虛擬形象是一只名為 Rudi 的紅熊貓，它可以被引導(dǎo)發(fā)表暴力威脅，包括炸毀銀行和殺害億萬(wàn)富翁，

7 月 15 日，xAI 發(fā)布了一則與開發(fā)虛擬形象相關(guān)的新招聘公告。馬斯克在上周三表示，公司正在開發(fā)一個(gè)受《暮光之城》角色愛德華?卡倫 (Edward Cullen) 和《五十度灰》角色的克里斯琴?格雷 (Christian Grey) 啟發(fā)的 Grok 伴侶。

截至發(fā)稿，xAI 發(fā)言人尚未就此置評(píng)。

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。