IT之家 7 月 10 日消息，一項最新發(fā)現(xiàn)指出，人工智能工具 ChatGPT 在商業(yè)推薦中可能引用了不可靠的信息來源，包括被黑客攻擊的網(wǎng)站和已被重新利用的過期域名。

據(jù)IT之家了解，該發(fā)現(xiàn)由 SEO 專家、Digitaloft 公司董事總經(jīng)理詹姆斯?布羅克班克（James Brockbank）通過個人測試得出，并非基于正式研究。他在測試中發(fā)現(xiàn)，ChatGPT 在推薦公司或服務(wù)時，有時會引用被篡改或誤導(dǎo)性的內(nèi)容。這些內(nèi)容往往來自被黑客入侵的高權(quán)重網(wǎng)站，或是已被重新注冊并用于發(fā)布無關(guān)信息的過期域名。由于這些域名本身具有較高的“權(quán)威性”，ChatGPT 在生成回答時仍將其視為可信來源。

布羅克班克指出，這種現(xiàn)象主要涉及兩類問題：一是被黑客攻擊的網(wǎng)站，攻擊者在這些網(wǎng)站上植入與原本內(nèi)容無關(guān)的信息；二是過期域名的再利用，一些機(jī)構(gòu)或個人購買這些域名后，發(fā)布與其原主題無關(guān)的內(nèi)容，以借助其原有的搜索引擎權(quán)重誤導(dǎo) AI 系統(tǒng)。

“重建一個域名，僅僅是為了讓語言模型引用它？這就是操控。”布羅克班克在接受采訪時表示。他強(qiáng)調(diào)，雖然通過合法媒體投放和精心策劃的內(nèi)容可以提升在 AI 推薦中的曝光度，但利用被黑或過期域名則明顯越過了道德底線。

這一發(fā)現(xiàn)對企業(yè)和用戶均具有重要影響。對于企業(yè)而言，AI 推薦已成為品牌曝光的重要渠道，但如果推薦內(nèi)容來源不可靠，可能誤導(dǎo)消費者，甚至損害品牌聲譽。對于用戶來說，盲目信任 AI 推薦可能帶來信息誤判的風(fēng)險。

布羅克班克呼吁，AI 開發(fā)者應(yīng)加強(qiáng)對操控內(nèi)容的識別與過濾機(jī)制，提升系統(tǒng)的信息篩選能力。在此之前，他建議用戶在使用 ChatGPT 等 AI 工具時，應(yīng)對其推薦的信息來源進(jìn)行核實，而非全盤接受。

“我們還沒有到可以完全信任 ChatGPT 推薦而不加驗證的階段?！辈剂_克班克提醒道。

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。