IT之家 3 月 9 日消息，人工智能生成的科學(xué)及相關(guān)內(nèi)容在社交媒體上的使用日益增多，這引發(fā)了重大擔(dān)憂：這類文本可能包含虛假或極具說服力但用戶難以察覺的信息，進(jìn)而可能影響公眾輿論與決策。

IT之家注意到，多個(gè)司法轄區(qū)與平臺(tái)正推動(dòng)更明確地披露人工智能生成或合成內(nèi)容，以保護(hù)公眾。然而，發(fā)表在《科學(xué)傳播期刊》（JCOM）上的一項(xiàng)新研究警告稱，這類標(biāo)注可能產(chǎn)生與監(jiān)管機(jī)構(gòu)意圖相反的效果 —— 降低真實(shí)科學(xué)信息的可信度，同時(shí)提升虛假信息的可信度。

人工智能生成內(nèi)容具有誤導(dǎo)性，至少源于兩大原因：第一，語(yǔ)言模型可能出現(xiàn)“幻覺”，生成看似合理但與事實(shí)不符的表述；第二，用戶可故意引導(dǎo)人工智能系統(tǒng)制造看似可信的虛假信息。為此，多個(gè)國(guó)家已出臺(tái)透明度規(guī)定，要求對(duì)人工智能生成或合成的網(wǎng)絡(luò)內(nèi)容進(jìn)行清晰標(biāo)注。

在這項(xiàng)新研究中，來自北京中國(guó)社會(huì)科學(xué)院大學(xué)新聞傳播學(xué)院的博士研究生林騰（Teng Lin，音譯）、碩士研究生張逸青（Yiqing Zhang，音譯），旨在檢驗(yàn)這類披露標(biāo)注是否真能實(shí)現(xiàn)其保護(hù)公眾免受虛假信息侵害的既定目標(biāo)。

“我們聚焦于社交媒體上傳播的科學(xué)相關(guān)信息?！绷烛v解釋道。

該實(shí)驗(yàn)研究于 2024 年 3 月至 5 月期間，通過 Credamo 平臺(tái)在線招募了 433 名參與者。研究人員制作了四類社交媒體帖子：帶 / 不帶人工智能標(biāo)注的真實(shí)信息，以及帶 / 不帶人工智能標(biāo)注的虛假信息。

研究人員基于中國(guó)科學(xué)辟謠平臺(tái)發(fā)布的內(nèi)容，利用 GPT?4 改編文本，生成了準(zhǔn)確版和誤導(dǎo)版的微博風(fēng)格內(nèi)容，并由研究者獨(dú)立審核。

參與者需對(duì)每條帖子的可信度進(jìn)行 1 至 5 分評(píng)分，研究人員同時(shí)測(cè)量了參與者對(duì)人工智能的負(fù)面態(tài)度及其對(duì)相關(guān)話題的關(guān)注程度。

研究結(jié)果呈現(xiàn)出一種反直覺的規(guī)律?！拔覀冏钪匾陌l(fā)現(xiàn)，是我們稱之為‘真?zhèn)谓徊嫘?yīng)’的現(xiàn)象?！绷烛v說，“同樣的人工智能標(biāo)注，會(huì)根據(jù)信息真?zhèn)萎a(chǎn)生截然相反的可信度影響：它會(huì)降低真實(shí)信息的可信度，卻提升虛假信息的可信度?！?/p>

他補(bǔ)充道，這并不意味著該效應(yīng)在所有平臺(tái)或形式中都完全一致，但在其實(shí)驗(yàn)環(huán)境下，這一規(guī)律十分明顯。

在這種情況下，人工智能內(nèi)容披露并不能幫助人們區(qū)分信息真?zhèn)?，反而以一種矛盾的方式重新分配了內(nèi)容的可信度。

林騰與張逸青還發(fā)現(xiàn)，個(gè)體對(duì)人工智能的態(tài)度會(huì)產(chǎn)生影響。對(duì)人工智能持更負(fù)面看法的參與者，在看到標(biāo)注為人工智能生成的真實(shí)信息時(shí)，會(huì)更強(qiáng)烈地降低對(duì)其信任度。

但即便在持負(fù)面態(tài)度的人群中，虛假信息獲得的可信度提升也并未完全消失，只是部分減弱，且這種減弱與話題相關(guān) —— 僅在某一類話題中有所弱化，并未整體消除。

這表明，所謂的“算法厭惡”并不會(huì)導(dǎo)致人們一概拒絕人工智能生成內(nèi)容，而是引發(fā)更復(fù)雜、不對(duì)稱的反應(yīng)。

這類研究凸顯出，在實(shí)施監(jiān)管措施前必須進(jìn)行嚴(yán)謹(jǐn)測(cè)試，因?yàn)槌踔粤己玫耐该鞫扰e措可能帶來意想不到的后果。

“我們?cè)谡撐闹刑岢隽巳舾山ㄗh，盡管這些建議仍需進(jìn)一步研究驗(yàn)證。”林騰解釋說。

“其中一項(xiàng)提議是采用雙重標(biāo)注方式。除簡(jiǎn)單標(biāo)明內(nèi)容由人工智能生成外，標(biāo)注還可包含‘信息未經(jīng)獨(dú)立核實(shí)’的聲明，或增加風(fēng)險(xiǎn)提示。簡(jiǎn)而言之，僅告知受眾文本由人工智能生成，本身可能并不足夠。另一項(xiàng)建議是采用分級(jí)或分類標(biāo)注體系?！绷烛v補(bǔ)充道，“不同類型的科學(xué)信息風(fēng)險(xiǎn)等級(jí)不同。例如，醫(yī)療健康相關(guān)信息可能需要更強(qiáng)烈的提示，而新技術(shù)相關(guān)信息風(fēng)險(xiǎn)較低。因此我們建議，根據(jù)內(nèi)容類型與風(fēng)險(xiǎn)等級(jí)，采用不同程度的披露標(biāo)注。”

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。