IT之家 6 月 19 日消息，據(jù)英國(guó)《衛(wèi)報(bào)》19 日?qǐng)?bào)道，麻省理工學(xué)院的最新研究發(fā)現(xiàn)，過度依賴聊天機(jī)器人可能削弱批判性思維，甚至讓人們越來越難以獨(dú)立辨別錯(cuò)誤信息。

隨著 AI 工具不斷進(jìn)步并加速普及，經(jīng)過篡改的圖片和誤導(dǎo)性標(biāo)題也變得更加常見。研究顯示，人們?nèi)绻L(zhǎng)期依靠 AI 判斷網(wǎng)絡(luò)信息真?zhèn)?，?dú)立判斷能力反而可能逐漸退化。

這項(xiàng)研究于 4 月發(fā)布，持續(xù)四周，共有 67 人參加。研究人員讓參與者判斷多組新聞標(biāo)題和圖片是否真實(shí)。結(jié)果顯示，Claude 和 ChatGPT 等 AI 助手能夠提高假新聞識(shí)別準(zhǔn)確率，但參與者越依賴 AI，獨(dú)自識(shí)別錯(cuò)誤信息時(shí)的表現(xiàn)就越差。

研究人員還發(fā)現(xiàn)，面對(duì)新聞標(biāo)題和圖片時(shí)，AI 往往更重視直接給出正確答案，而不是幫助用戶形成自己的思考過程。研究認(rèn)為，這種使用方式可能在短期內(nèi)提高準(zhǔn)確率，卻在長(zhǎng)期內(nèi)削弱判斷力。

麻省理工學(xué)院博士生、研究共同主要作者 Anku Rani 表示，人們?cè)谑褂?AI 時(shí)，容易產(chǎn)生能力正在提高的錯(cuò)覺，“當(dāng)我們與 AI 互動(dòng)時(shí)，會(huì)感覺自己在某些任務(wù)上變得更好了，但已有足夠多的研究表明，實(shí)際情況并不是這樣?！?/p>

研究期間，參與者需要分別在有無 AI 幫助的情況下，判斷新聞和圖片是否造假。實(shí)驗(yàn)使用的 AI 助手基于 GPT-4o，并接入谷歌搜索。聊天機(jī)器人不會(huì)只給出結(jié)論，也可以提示用戶查找線索。例如，在一組測(cè)試中，AI 建議參與者仔細(xì)查看警徽，因?yàn)榫占?xì)節(jié)暴露了圖片造假。

研究人員一方面評(píng)估 AI 能否幫助參與者作出正確判斷，另一方面也追蹤其獨(dú)立判斷能力是否發(fā)生變化。結(jié)果顯示，AI 帶來的幫助和代價(jià)同時(shí)存在。借助 AI 后，參與者作出正確判斷的概率提高 21%；到實(shí)驗(yàn)第四周，在沒有 AI 幫助的情況下判斷新圖片時(shí)，參與者的表現(xiàn)下降了 15.3%。研究指出：AI 可能會(huì)立即提供幫助，最終卻可能削弱人們長(zhǎng)期識(shí)別錯(cuò)誤信息的能力。

對(duì)技術(shù)依賴削弱人類能力的擔(dān)憂早已存在。計(jì)算器可能讓人疏于心算，GPS 也可能讓人失去獨(dú)立辨認(rèn)路線的能力。2025 年《柳葉刀》發(fā)表的一項(xiàng)研究還發(fā)現(xiàn)，長(zhǎng)期使用 AI 分類工具檢測(cè)癌癥的醫(yī)生，獨(dú)立診斷能力最終有所下降。元科學(xué)研究機(jī)構(gòu) Possibility Institute 的一名神經(jīng)科學(xué)家最近也警告，長(zhǎng)期把大量思考任務(wù)交給 AI，可能削弱大腦抵御失智癥的能力。

麻省理工學(xué)院的研究還顯示，AI 如何與用戶互動(dòng)同樣重要。直接告訴用戶答案，和通過追問引導(dǎo)用戶思考，會(huì)產(chǎn)生不同結(jié)果。用戶往往希望聊天機(jī)器人迅速提供明確答案，然而真正有助于批判性思維的，或是更細(xì)致、更具引導(dǎo)性的提問過程。

研究指出，面對(duì)直接告訴自己該怎么做的 AI 系統(tǒng)，參與者往往會(huì)選擇服從，因?yàn)橄到y(tǒng)“聽起來知識(shí)淵博”。約四分之一參與者認(rèn)為自己的識(shí)別能力正在提高，實(shí)際表現(xiàn)卻已經(jīng)變差。

IT之家注：這項(xiàng)研究也存在明顯局限。參與者主要來自美國(guó)和英國(guó)，尚不足以證明同樣的能力退化會(huì)出現(xiàn)在所有文化背景和教育體系中。研究時(shí)間也只有四周，未來還需要更長(zhǎng)期的實(shí)驗(yàn)，觀察過度依賴 AI 的影響是否會(huì)持續(xù)擴(kuò)大，以及變化速度是否保持不變。

研究人員表示，隨著教育工作者越來越多地把 AI 用作學(xué)習(xí)工具，這些發(fā)現(xiàn)尤其值得重視。普通公眾同樣需要警惕，因?yàn)榫W(wǎng)絡(luò)上充斥著新聞、熱傳圖片、醫(yī)療說法和政治傳言等真假難辨的信息。“AI 日益先進(jìn)，確保這些工具能夠培養(yǎng)批判性思維，而不是造成認(rèn)知依賴，對(duì)于維持公眾抵御錯(cuò)誤信息的能力至關(guān)重要。”

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。