IT之家 7 月 14 日消息，據(jù)外媒 TechCrunch 今天（14 日）報道，硅谷圍繞人工智能風險的爭論持續(xù)無休，最讓 AI 擁護者坐立不安的，卻是大型 AI 實驗室可能借專有模型充當“特洛伊木馬”。

初創(chuàng)企業(yè)和大型企業(yè)把敏感資料喂給模型后，模型提供商便能逐漸摸清客戶的業(yè)務，還可能利用積累下來的知識開拓同類業(yè)務，最終與客戶直接競爭。

當?shù)貢r間 12 日，納德拉在博客中警告，企業(yè)使用 AI 時其實付了兩遍錢：一遍是明碼標價的 token 費用，另一遍則是在毫無察覺的情況下交出有價值的數(shù)據(jù)?！澳銓嶋H上付了兩次錢，一次用金錢支付，另一次則用更加寶貴的東西支付，也就是為了讓 AI 真正發(fā)揮作用而必須披露的專有知識。你越希望模型表現(xiàn)得更好，就越需要向模型提供更多知識！”

企業(yè)為了讓模型更懂自身需求，實際上正在一點點把經(jīng)營訣竅教給模型。“模型會從‘使用痕跡’中學習，包括人們輸入的提示詞、智能體調(diào)用的工具，尤其是模型犯錯后人們給出的糾正。每一次糾正最終都會變成企業(yè)內(nèi)部積累的經(jīng)驗?！?/p>

競爭對手無論花多少錢，都很難買到同樣的經(jīng)驗，企業(yè)卻在使用模型的過程中主動把經(jīng)驗交了出去。納德拉因此主張，AI 企業(yè)既然可以抓取互聯(lián)網(wǎng)內(nèi)容訓練模型，企業(yè)也應當有權(quán)反過來研究并“蒸餾”AI 企業(yè)的模型。

IT之家注：所謂“模型蒸餾”，就是分析一個模型給出的答案，從中摸清模型如何工作，再據(jù)此訓練成本通常更低的新模型。

納德拉的核心觀點是，模型提供商不能只允許自己利用別人的數(shù)據(jù)。模型提供商可以用全世界的數(shù)據(jù)訓練模型，卻不準其他人以類似方式研究其模型，顯然是雙標行為?！澳Ｐ吞峁┥虛碛泻侠硎褂霉矓?shù)據(jù)訓練模型的權(quán)利，由此帶來的重大創(chuàng)新確有必要，但目前的做法卻是轉(zhuǎn)過頭來限制模型蒸餾，我認為很諷刺。”

納德拉尤其警惕模型提供商在服務條款中“保留從客戶使用數(shù)據(jù)和互動數(shù)據(jù)中學習的權(quán)利”。

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。