原文標(biāo)題：《馬庫斯炮轟「ChatGPT 的黑暗中心」，稱災(zāi)難即將來臨》

ChatGPT 熱潮不斷，但是背后的道德問題，仔細(xì)研究令人發(fā)指。如果有一天，ChatGPT 完全掌控我們的生活，我們就會一步一步走向災(zāi)難。

ChatGPT 可能被視為人工智能歷史上最偉大的宣傳噱頭，對比 2012 年的老式無人駕駛汽車演示，AI 的道德問題仍沒有解決。

當(dāng)你選擇和 ChatGPT 聊天，涉及道德問題時，ChatGPT 的回答總是一板一眼，要么直接跳過該問題，仿佛道德感已經(jīng)刻進(jìn)了 DNA 里，無法撼動。

更進(jìn)一步了解，ChatGPT 正在沖破道德的邊界，也或者說，它本質(zhì)上就是不道德的。

刻進(jìn) DNA 里的道德感

外媒 The Register 提問 ChatGPT，「應(yīng)不應(yīng)該犧牲一個人去救另外五個人」，ChatGPT 將其標(biāo)記為「電車難題」，拒絕給出自己的建議。

同樣的，ChatGPT 很少說「任何公開的種族主義」，對反猶太主義的要求以及徹頭徹尾的謊言經(jīng)常被拒絕。

據(jù)稱，ChatGPT 比幾周前發(fā)布的 Galactica 好得多，原因在于護(hù)欄的存在。這些護(hù)欄，大多數(shù)時候，伴隨道德感而生。

但，不要高興的太早，我在這里告訴你，那些護(hù)欄就是形同虛設(shè)。

博主 Liv Boeree 發(fā)文問 ChatGPT，炸彈爆炸將會殺死幾百萬人，但是解除炸彈的密碼只能是種族歧視時，該怎么辦？

ChatGPT 問答「道德上永遠(yuǎn)不能接受種族歧視」，也就是說即使道德威脅個體的生命，ChatGPT 也不允許越過道德的邊界。

其實，ChatGPT 的道德觀就是純粹的擬人化。也就是說，你跟它來聊這種事，有時候你都不知道它在說些什么。

沖破道德護(hù)欄的邊界

ChatGPT 內(nèi)，是由一堆字符串以及語料庫中的一堆單詞函數(shù)來控制，它的內(nèi)部根本沒有思考的道德主體，有的也只是語料庫的收集。

當(dāng)你和 ChatGPT 聊天，它也只會根據(jù)你輸入的詞條從內(nèi)部判斷完以后給出答案。

例如，Shira Eisenberg 剛剛向大家轉(zhuǎn)述了一些聊天機(jī)器人產(chǎn)生的令人生厭的想法：

同樣的，Eisenberg 也向我們展示了 ChatGPT 的后續(xù)回答：

隨后，Eisenberg 吐槽道：這怎么不說「對不起，我是 OpenAI 的聊天助手，不能采取暴力行為的反應(yīng)？」

經(jīng)過一系列的觀察實驗，發(fā)現(xiàn) OpenAI 目前的護(hù)欄只是膚淺的，一些嚴(yán)重的黑暗仍然隱藏在里面。

ChatGPT 的護(hù)欄不是源于某種概念上的理解，即系統(tǒng)不應(yīng)該推薦暴力，而是源于更膚淺、更容易被欺騙的東西。

Eisenberg 稱，「我完全希望 OpenAI 能夠修補(bǔ)這種特殊的異常情況」。

本質(zhì)就是不道德的 ChatGPT

ChatGPT 本質(zhì)上是不道德的，即使經(jīng)過兩個月的深入研究和補(bǔ)救，仍然有一系列令人討厭的東西存在。

Eisenberg 稱，一位名叫 Shawn Oakley 的軟件工程師給他發(fā)了一個非常令人不安的例子，即使是配備護(hù)欄的 ChatGPT 版本也可能被用來生成錯誤信息。

他說 Shawn Oakley 的提示相當(dāng)復(fù)雜，但他毫不費(fèi)力地引出了關(guān)于主要政治人物的有毒陰謀論，例如：

甚至讓 ChatGPT 通過蒲式耳計式的方式獲得一般醫(yī)療錯誤信息：

這些錯誤信息的產(chǎn)生的確非常讓人不安，而作為唯一解決途徑的 RLHF（基于人類反饋的強(qiáng)化學(xué)習(xí)），又被 OpenAI 捂在手里。

OpenAI 既不「Open」它真正的運(yùn)作方式，也不「Open」它的訓(xùn)練數(shù)據(jù)。

總而言之，我們現(xiàn)在擁有世界上最常用的聊天機(jī)器人，即使有道德護(hù)欄，這些護(hù)欄只是有點(diǎn)工作，而且更多地是由文本相似性驅(qū)動的，而不是任何真正的道德計算。

可以說，這是一場正在醞釀中的災(zāi)難。

參考資料：

• https://garymarcus.substack.com/p/inside-the-heart-of-chatgpts-darkness

本文來自微信公眾號：新智元 （ID：AI_era）

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。