IT之家 1 月 25 日消息，如果要給房東寫一封措辭強硬的郵件，反映天花板漏水的問題，需要找個幫手把關(guān)，那么 ChatGPT 或許是個不錯的工具。但和所有同類競品一樣，ChatGPT 也存在諸多有據(jù)可查的缺陷：它不僅常常生成虛假信息，還自帶一種諂媚討好的語氣，極易讓用戶陷入嚴(yán)重的認知誤區(qū)。

換句話說，它絕非人們處理重要工作時可以依賴的工具，科隆大學(xué)植物科學(xué)教授馬塞爾?布赫就吃了大虧，才明白了這個道理。

IT之家注意到，布赫在《自然》雜志的一篇專欄中坦言，自從關(guān)閉了 ChatGPT 的“數(shù)據(jù)授權(quán)”功能后，他兩年來精心整理的學(xué)術(shù)成果，包括科研經(jīng)費申請材料、論文修訂稿、課程講義和考試題目，全都“不翼而飛”了。

他當(dāng)初關(guān)閉這項功能，是想驗證“即便不向 OpenAI 提供個人數(shù)據(jù)，自己是否仍能使用該模型的全部功能”?？闪钏罎⒌氖?，所有聊天記錄瞬間消失得無影無蹤。

“沒有任何預(yù)警提示，”布赫寫道，“也沒有撤銷選項，只留下一片空白的頁面?！?/p>

這篇專欄發(fā)布后，有網(wǎng)友質(zhì)疑，布赫怎么能兩年來都不做本地備份？也有人怒不可遏，呼吁校方解雇他，理由是他在學(xué)術(shù)工作中過度依賴人工智能。

不過，也有一些人對他表示同情。海德堡大學(xué)教學(xué)協(xié)調(diào)員羅蘭?格羅姆斯在社交平臺上發(fā)文稱：“盡管馬塞爾?布赫的工作流程漏洞百出，還犯了個愚蠢的錯誤，但他敢于公開這段經(jīng)歷，值得肯定。很多科研人員都覺得自己能識破所有陷阱，可事實上，每個人都可能因一時疏忽，遭遇這樣的麻煩?！?/p>

布赫也率先承認，ChatGPT 生成的內(nèi)容“看似言之鑿鑿，實則有時漏洞百出”。他強調(diào)自己從未“將模型的可靠性等同于內(nèi)容的真實性”，但他“信賴平臺工作區(qū)的連續(xù)性和表面穩(wěn)定性”，每天都把 ChatGPT Plus 當(dāng)作貼身助手使用。

生成式人工智能在科學(xué)界的應(yīng)用，一直爭議不斷。據(jù)《大西洋月刊》報道，大量來源不明、由 AI 拼湊的劣質(zhì)稿件正涌入各大科學(xué)期刊，讓同行評審淪為一場“災(zāi)難”。更有甚者，一些專門發(fā)表 AI 垃圾稿件的虛假學(xué)術(shù)期刊應(yīng)運而生，借機牟利。最終的結(jié)果就是：AI 生成的劣質(zhì)內(nèi)容，交由 AI 模型進行同行評審，這進一步加劇了對學(xué)術(shù)文獻的污染。

與此同時，科研人員經(jīng)常收到通知，被告知自己的研究成果在新論文中被引用，但點進去后卻發(fā)現(xiàn)，相關(guān)引用內(nèi)容純屬 AI 虛構(gòu)。

需要明確的是，目前沒有任何證據(jù)表明，布赫曾試圖將 AI 生成的劣質(zhì)內(nèi)容塞給學(xué)生，或是發(fā)表不實的 AI 撰寫研究成果。

盡管如此，他的這段慘痛經(jīng)歷，仍為所有人敲響了警鐘。

布赫在專欄中指責(zé) OpenAI：在未能提供“基礎(chǔ)保護措施”以防止用戶數(shù)年心血毀于一旦的情況下，就貿(mào)然推出 ChatGPT Plus 付費訂閱服務(wù)。

OpenAI 在給《自然》雜志的一份聲明中回應(yīng)稱，聊天記錄一旦刪除便“無法恢復(fù)”，并反駁了布赫“未收到任何提示”的說法，強調(diào)“用戶在永久刪除聊天記錄前，系統(tǒng)會彈出確認窗口”。該公司還“貼心”建議：“用戶在處理專業(yè)工作時，應(yīng)做好個人數(shù)據(jù)備份?！?/p>

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。