8 月 15 日消息，據(jù)美媒報道，近年來，人工智能深度偽造技術（Deepfake）在網(wǎng)絡詐騙中廣泛應用，尤其是利用偽造的埃隆?馬斯克（Elon Musk）視頻進行詐騙的案例尤為突出。這些視頻通過模擬馬斯克的聲音和動作，誤導投資者。這類深度偽造視頻成本低廉、傳播迅速，使得詐騙者能夠輕易擴大其欺詐活動的影響范圍，導致許多受害者因為虛假的投資機會而損失巨額資金。隨著深度偽造技術的風險日益凸顯，其每年可能導致的欺詐損失預計將達數(shù)十億美元。

以下為翻譯全文：

現(xiàn)年 82 歲的退休老人史蒂夫?比徹姆（Steve Beauchamp）本希望為家人增加一些收入，他把希望寄托在了埃隆?馬斯克（Elon Musk）身上。去年底，比徹姆偶然看到一段視頻，視頻中馬斯克似乎在推薦一個承諾能迅速獲利的激進投資方案。受此啟發(fā)，比徹姆迅速聯(lián)系了該視頻背后的公司，并以 248 美元開設了一個投資賬戶。然而，在接下來幾周里，他逐步增加投資，最終從退休金賬戶中動用了超過 69 萬美元。

但不久后，這些錢就消失了，落入了一群利用人工智能進行新型數(shù)字詐騙的騙子之手。這些詐騙者巧妙地篡改了一段馬斯克的真實采訪，利用 AI 技術替換了他的聲音，并微調(diào)了他的口型，以匹配他們?yōu)檫@個數(shù)字人編寫的新劇本。對于一般觀眾來說，這種操作幾乎是察覺不出的。

比徹姆回憶起那段視頻，感慨地說：“視頻中的他，形象鮮明，一眼就能認出是馬斯克。至于是否是 AI 讓他說出那些話，我現(xiàn)在也無法確定。但就視頻畫面而言，如果有人要我從人群中識別他，我肯定能指出來?！?/p>

馬斯克成深度造假?？?/strong>

近幾個月來，互聯(lián)網(wǎng)上充斥著數(shù)以千計的這種由 AI 驅(qū)動的視頻，這些被稱為“深度造假”（Deepfake）的視頻中，偽造的馬斯克形象誤導了眾多潛在投資者。據(jù)德勤估計，這類由 AI 支持的深度造假每年可能導致數(shù)十億美元的欺詐損失。

這些視頻制作成本極低，幾分鐘內(nèi)即可完成，并通過社交媒體進行推廣，包括在 Facebook 上的付費廣告，大大擴展了它們的影響范圍。監(jiān)測和檢測深度造假視頻的公司 Sensity 聯(lián)合創(chuàng)始人兼威脅情報主管弗朗西斯科?卡沃利（Francesco Cavalli）對此發(fā)出警告：“這可能是有史以來最大規(guī)模的深度造假騙局?！?/p>

這些視頻常常惟妙惟肖，精準捕捉了馬斯克標志性的不連貫語調(diào)和南非口音。詐騙者通常從一段真實的視頻入手，比如《華爾街日報》采訪，造假視頻中保留了記者的聲音，這增加了視頻的真實性。

利用先進的對口型技術，詐騙者調(diào)整了馬斯克的嘴部動作，使其與他們偽造的臺詞完美匹配。他們還使用了聲音克隆工具添加 AI 聲音，這些工具能從樣本片段中復制任何聲音。最終的廣告中，可能還包括偽造的圖形，模仿新聞機構的樣式，這對一般網(wǎng)絡用戶來說可能頗具說服力。

根據(jù) Sensity 的分析，馬斯克是這些視頻中最常見的發(fā)言人。在近 2000 個分析樣本中，特別是從去年底開始，他出現(xiàn)在了近四分之一的深度造假詐騙中。在那些以加密貨幣為主題的視頻中，這一比例甚至高達近 90%。深度造假廣告還常常使用沃倫?巴菲特（Warren Buffett）這樣的著名投資者和亞馬遜創(chuàng)始人杰夫?貝索斯（Jeff Bezos）等商界大佬。

盡管很難準確統(tǒng)計出有多少深度造假在網(wǎng)絡上流傳，但通過搜索 Facebook 廣告庫中常用的與詐騙相關的語言，發(fā)現(xiàn)了數(shù)十萬條廣告，其中許多包括了深度造假視頻。雖然 Facebook 已刪除了許多違反政策的內(nèi)容，并禁用了相關賬戶，但仍有其他視頻留在了網(wǎng)絡上，而且似乎每天都有更多視頻出現(xiàn)。

YouTube 也充斥著這些偽造的內(nèi)容，這些視頻常常帶有“直播”標簽。事實上，這些都是預先錄制的深度造假視頻。在 YouTube 上搜索關鍵詞如“埃隆比特幣會議（Elon Bitcoin conference）”，可以看到數(shù)十個偽裝成直播的視頻，視頻中的深度造假馬斯克正在兜售加密貨幣詐騙，誤導性極強。

在美國前總統(tǒng)唐納德?特朗普（Donald J. Trump）在比特幣會議上發(fā)言后，YouTube 上迅速出現(xiàn)了數(shù)十個標注為“直播”標簽的視頻，展示了一段預先錄制的深度偽造馬斯克視頻，聲稱會加倍返還發(fā)送到他賬戶的任何加密貨幣。這些視頻雖然吸引了大量觀眾，其中一些視頻的觀看次數(shù)達到了數(shù)十萬。但 YouTube 表示，詐騙者可能使用網(wǎng)絡水軍人為夸大觀看次數(shù)。

據(jù)非營利消費者權益組織 Better Business Bureau 的報告，一名得克薩斯州居民在 2023 年 2 月通過 YouTube 上一段所謂的“直播”視頻，看到了偽裝成馬斯克的詐騙信息，因此損失了價值 36,000 美元的比特幣。該居民表示：“我轉(zhuǎn)了比特幣，但什么都沒收到?！?/p>

FB 與 YouTube 成重災區(qū)

YouTube 在一份聲明中表示，僅在今年 1 月至 3 月期間，平臺就移除了超過 1570 萬個頻道和超過 820 萬個視頻，這些內(nèi)容大多因違反其反垃圾郵件政策而被刪除。

鑒于虛假廣告泛濫，澳大利亞億萬富翁安德魯?福雷斯特（Andrew Forrest）對 Facebook 的母公司 Meta 提起了民事訴訟，指責其在廣告業(yè)務中的疏忽，聲稱這些廣告業(yè)務誤導了無辜用戶進行錯誤投資。據(jù)悉，福雷斯特本人的視頻也被用于制作深度造假廣告。

Meta 公司回應稱，正在訓練自動檢測系統(tǒng)以識別平臺上的欺詐活動，但也坦言這是一場復雜的貓鼠游戲，因為資金充足的詐騙團伙不斷改變策略以逃避檢測。YouTube 則重申其禁止欺詐和視頻篡改的政策，并在今年 3 月要求所有創(chuàng)作者在使用 AI 創(chuàng)造逼真內(nèi)容時必須進行明確披露。

網(wǎng)絡上充斥著大量相關的詐騙報告，其中不少人損失了他們的畢生積蓄。香港證券及期貨事務監(jiān)察委員會在 5 月份發(fā)出了關于涉及馬斯克的詐騙活動的警告。今年早些時候，美國聯(lián)邦貿(mào)易委員會和聯(lián)邦調(diào)查局也警告美國民眾，AI 驅(qū)動的網(wǎng)絡犯罪和深度偽造詐騙正日益增多。

FBI 在一份電郵聲明中強調(diào)：“犯罪分子正在利用 AI 作為力量的放大器，使網(wǎng)絡攻擊和其他犯罪活動更加有效且難以被偵測?！?/p>

數(shù)字詐騙與互聯(lián)網(wǎng)的發(fā)展同步增長。但隨著去年復雜的 AI 工具向公眾開放，以馬斯克為特征的新一波深度偽造浪潮應運而生，這些工具讓普通人能夠克隆名人聲音或精確操控視頻，吸引了色情行業(yè)、表情包制作者和越來越多的詐騙團伙的注意。

網(wǎng)絡安全研究實驗室 CTM Insights 的創(chuàng)始人盧?斯坦伯格（Lou Steinberg）指出：“現(xiàn)在的情況正在發(fā)生變化，因為有組織的犯罪團伙已經(jīng)發(fā)現(xiàn)，通過這種方式可以賺錢。”他預計，我們將看到越來越多的這種假冒企圖，目的就是騙錢。”

盡管 AI 生成的視頻并不完美，例如馬斯克的聲音在一些視頻中可能聽起來機械化，而且他的口型并不總是與臺詞不匹配。但專家警告稱，這些視頻對于一些詐騙目標來說已經(jīng)足夠令人信服，并且隨著時間的推移技術正在不斷改進。

根據(jù) Sensity 的卡沃利的說法，這些視頻的制作成本非常低，大約只需 10 美元，而且大多數(shù)詐騙者使用一系列免費或便宜的工具在不到 10 分鐘內(nèi)拼湊出假視頻。他們主要位于印度、俄羅斯和東歐。

“它有效，”卡沃利說?！耙虼耍麄儗⒗^續(xù)擴大這一活動，跨越國界，用多種語言翻譯，并不斷向更多目標傳播詐騙?！?/p>

老年人成為完美目標

這類騙局常以高回報的人工智能投資軟件為幌子，初期誘使受害者投入小額資金 —— 如 250 美元。隨后，通過夸大投資的增值效果，逐漸誘導他們增加投資金額。

特斯拉股東大會的一條視頻也被偽造，視頻中馬斯克解釋了一個由 AI 驅(qū)動的自動交易產(chǎn)品，聲稱能夠每天翻倍投資回報。

研究加密貨幣社區(qū)的專家指出，馬斯克擁有一群獨特的全球粉絲群體，這些粉絲多為保守派、反體制人士和加密貨幣愛好者，他們經(jīng)常尋找賺取財富的非傳統(tǒng)途徑，這使得他們成為這些騙局的理想目標。

“肯定有一群人相信財富的秘密被隱藏了起來，”研究加密貨幣社區(qū)的研究者莫莉?懷特（Molly White）說。她指出，部分人群總幻想掌握財富秘密，認為一旦找到便能一夜暴富。

詐騙者尤愛針對年長互聯(lián)網(wǎng)用戶，他們雖對加密貨幣、人工智能或馬斯克有所了解，但不熟悉安全投資方式的年長互聯(lián)網(wǎng)用戶。

“老年人一直是詐騙者眼中的一塊肥肉，這一現(xiàn)象甚至早于社交媒體的興起，”加州大學戴維斯分校的科學技術研究教授芬恩?布倫頓（Finn Brunton）說，他是加密市場的專家。

比徹姆是一名鰥夫，曾在加拿大安大略省的一家公司擔任銷售代表，直到 75 歲退休。2023 年加入 Facebook 后不久，他就遇到了廣告詐騙。盡管他記得曾在 CNN 的直播中看到過馬斯克，但 CNN 的一位女發(fā)言人表示，馬斯克已多年未在該臺接受過采訪。

去年 12 月，比徹姆向一家名為 Magna-FX 的公司匯款 27,216 美元，據(jù)他和該公司的電子郵件交流顯示，Magna-FX 使他相信他的投資價值在增加。期間，一名銷售代理甚至使用軟件遠程控制了比徹姆的電腦，擅自轉(zhuǎn)移資金。

當比徹姆嘗試提取資金時，他被告知需要支付 3,500 美元的管理費和另外 3,500 美元的傭金。他付了這些錢，但后來又被告知需要支付 20,000 美元才能釋放約 20 萬美元的資金部分。盡管他已經(jīng)用盡了退休儲蓄，刷爆了信用卡，動用了信用額度并向妹妹借款投資和支付費用，詐騙者還是要求他支付更多費用。此時，比徹姆已意識到問題的嚴重性，于是聯(lián)系了警方。

Magna-FX 的大部分痕跡已經(jīng)從網(wǎng)絡上消失，包括公司網(wǎng)站、電話號碼以及比徹姆曾與之交流的代理使用的電子郵件地址。一家名稱和服務相似的公司對評論請求未作回應。

比徹姆在提交給 Better Business Bureau 的報告中表示：“此刻，我愿接受所有指責與嘲諷，作為對自己輕信的懲罰。”

他表示，目前正依靠一個未向詐騙者透露的較小退休賬戶及養(yǎng)老金來維持生計，而他原本計劃使用這些積蓄環(huán)游世界。比徹姆已經(jīng)向當?shù)鼐綀蟀福讣M展緩慢。

“由于到處都是欺詐案件，我的案件被放在了隊列中，”他說，“我沒有抱太大希望?！?/p>

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。