IT之家 5 月 18 日消息，如今，全球越來越多民眾日常使用人工智能系統(tǒng)，盡管眾多用戶愿意相信人工智能給出的答案，但這些回答并非始終準(zhǔn)確可靠。

IT之家注意到，滑鐵盧大學(xué)與倫敦大學(xué)學(xué)院的研究人員近期開展了一項研究，旨在深入探究人們?nèi)绾闻袛嗳祟惻c人工智能在作出預(yù)測、得出結(jié)論時的自信程度。該研究成果發(fā)表于《通訊 · 心理學(xué)》期刊，研究表明：即便人工智能與人類給出的回答完全一致，人們依舊普遍認(rèn)為人工智能作答時的自信心更強(qiáng)。

該論文第一作者克拉拉 · 科隆巴托接受 Phys.org 采訪時表示：“隨著人工智能系統(tǒng)愈發(fā)成熟精密，人們愈發(fā)依賴其獲取各類建議，比如選購商品、挑選瀏覽內(nèi)容等。”

“這和我們?nèi)粘Ｅc人相處的行為十分相似，我們常會向他人尋求指引與建議。但聽取人類建議和聽取人工智能建議存在顯著區(qū)別：人類給出建議時，往往會順帶表露自身話語的篤定程度，而這份自信也會直接影響我們對建議的信任與采納程度。”

與人類不同，目前絕大多數(shù)人工智能系統(tǒng)僅會針對具體問題生成答案，并不會主動表明自身對答案的把握程度。而這種自信度信息的缺失，會對用戶信任人工智能回復(fù)產(chǎn)生何種影響，此前尚未有清晰定論。

科隆巴托解釋道：“我們希望弄清，即便對方?jīng)]有直接表露自信程度，人們是否仍會下意識揣測人類與人工智能的篤定心態(tài)，以及哪些因素會左右這種主觀判斷。為研究人們判定他人自信度的方式，我們設(shè)計了一項實驗：讓實驗對象觀察人類或人工智能作出決策，再由實驗對象判斷二者在每一項選擇中所持有的自信水平?！?/p>

隨后，科隆巴托及其團(tuán)隊對收集到的實驗數(shù)據(jù)展開分析，探究各類外在線索如何影響人們對人類、人工智能自信程度的判定。研究發(fā)現(xiàn)了一個有趣現(xiàn)象：作答速度越快、決策看起來越輕松，人們就越覺得其自信心越足。

“尤為關(guān)鍵的是，即便沒有實際依據(jù)支撐，人們依舊會主觀認(rèn)定準(zhǔn)確率更高、能力更強(qiáng)的主體更加自信。”科隆巴托說道，“這一點(diǎn)在人工智能領(lǐng)域尤為值得重視。人們時常默認(rèn)人工智能在部分事務(wù)上優(yōu)于人類，進(jìn)而主觀判定人工智能底氣更足，事實卻并非如此，這便催生了人工智能的‘自信錯覺’。”

總體而言，該研究證實，人們無需對方直白表露對預(yù)測結(jié)果的信心，便能自行揣測其自信高低。實驗參與者大多會下意識憑借各類外在線索，例如作答速度、展現(xiàn)出的能力水平等，來判定對方的自信程度。

科隆巴托強(qiáng)調(diào)：“這些判斷線索極易造成誤導(dǎo)。一旦人們認(rèn)定某個人工智能能力出眾，就會默認(rèn)它作答十分篤定，可實際上該系統(tǒng)在對應(yīng)場景中未必靠譜。簡單來說，人們評判人工智能的自信程度，依據(jù)的往往是自身固有偏見，而非人工智能的實際表現(xiàn)?！?/p>

科隆巴托團(tuán)隊的這項研究充分說明，研發(fā)人工智能產(chǎn)品時，需通過直白表述及多元外在形式，向用戶清晰傳遞系統(tǒng)自身的自信程度。該研究結(jié)論能夠為大語言模型等人工智能模型新增功能、優(yōu)化現(xiàn)有性能提供研發(fā)思路。

科隆巴托稱：“在人際交往中，情緒自信是重要的社交信號，幫助我們判斷何時采信他人建議、何時謹(jǐn)慎斟酌。本研究結(jié)果表明，若人工智能不主動明示自身把握程度，用戶便會自行主觀揣測，進(jìn)而引發(fā)諸多隱患：即便人工智能本身心存疑慮、極易出錯，用戶依舊可能過度輕信其給出的各類建議?！?/p>

目前，研究團(tuán)隊正籌備新一輪研究，助力人們更精準(zhǔn)地判斷人工智能的自信程度，重點(diǎn)探尋高效可行的方式，讓人工智能清晰向用戶傳遞自身對預(yù)測結(jié)果的把握情況。

她補(bǔ)充道：“人與人交流時，我們能通過語氣、神情、肢體姿態(tài)等多種方式傳遞自信。但絕大多數(shù)人工智能沒有類人語音與實體形態(tài)，缺失這類表達(dá)途徑。因此，探尋在人機(jī)交互中高效、直觀且值得信賴的自信傳遞方式，將成為未來科研的重要方向?！?/p>

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。