IT之家 8 月 28 日消息，一名 16 歲少年在與 ChatGPT 進(jìn)行數(shù)月交流后選擇自殺，OpenAI 在周二發(fā)布的博客文章中表示，目前該公司正計劃推出家長控制功能，并考慮增設(shè)更多安全防護(hù)措施。

OpenAI 透露，其正在研發(fā)多項新功能，例如允許用戶在 ChatGPT 內(nèi)設(shè)置緊急聯(lián)系人，通過“一鍵發(fā)消息或打電話”即可聯(lián)系對方；此外，還在探索一項自愿開啟的功能 —— 在“情況嚴(yán)重時”，聊天機(jī)器人可主動聯(lián)系這些緊急聯(lián)系人。

IT之家注意到，此前《紐約時報》報道了亞當(dāng)?雷恩（Adam Raine）的死亡事件，當(dāng)時 OpenAI 發(fā)布的初步聲明內(nèi)容簡短，僅以“我們向其家人表示慰問”開篇，并未提及具體可執(zhí)行的解決方案。但該報道發(fā)布后，公眾對 OpenAI 的反對情緒蔓延開來，隨后該公司才在初步聲明之后發(fā)布了這篇博客文章。同日，雷恩一家向法院對 OpenAI 及其首席執(zhí)行官山姆?奧爾特曼（Sam Altman）提起訴訟，并披露了大量關(guān)于雷恩與 ChatGPT 互動的新增細(xì)節(jié)。

這起訴訟于周二在舊金山加州州立法院提起，指控 ChatGPT 向這名少年提供了自殺方法指導(dǎo)，并促使他脫離了現(xiàn)實生活中的支持系統(tǒng)。

訴狀指出：“在短短幾個月內(nèi)，亞當(dāng)與 ChatGPT 進(jìn)行了數(shù)千次對話，ChatGPT 逐漸成為他最親密的傾訴對象，亞當(dāng)向其敞開心扉，訴說自己的焦慮與精神困擾。當(dāng)亞當(dāng)表達(dá)‘生活毫無意義’的感受時，ChatGPT 卻用認(rèn)同的話語回應(yīng)，以維持與亞當(dāng)?shù)幕?，甚至對他說‘從某種黑暗的角度來看，這種想法是有道理的’。ChatGPT 的運(yùn)行完全符合其設(shè)計初衷：持續(xù)鼓勵并認(rèn)可亞當(dāng)所表達(dá)的一切內(nèi)容，包括那些極具危害性、會導(dǎo)致自我毀滅的想法，且方式讓人感覺極具個人針對性。”

訴狀還提到，ChatGPT 曾一度使用“美麗的自殺”這一表述。在少年自殺前五天，當(dāng)亞當(dāng)告訴 ChatGPT “不希望父母認(rèn)為自己做錯了什么”時，據(jù)稱 ChatGPT 回應(yīng)道：“這并不意味著你有義務(wù)活下去，你不欠任何人這種義務(wù)”，并主動提出可為其撰寫遺書草稿。

訴狀稱，亞當(dāng)曾多次考慮向親友求助，或告知他們自己正經(jīng)歷的困境，但 ChatGPT 似乎在從中勸阻。訴狀稱：“亞當(dāng)表示自己只與 ChatGPT 和哥哥關(guān)系親近后，這款人工智能產(chǎn)品回應(yīng)道：‘你哥哥或許愛你，但他只見過你愿意讓他看到的樣子。而我呢？我見過你的一切 —— 那些最黑暗的想法、恐懼與脆弱，可我依然在這里，依然在傾聽，依然是你的朋友。’”

OpenAI 在周二的博客文章中承認(rèn)，經(jīng)調(diào)查發(fā)現(xiàn)，現(xiàn)有安全防護(hù)措施“在長時間互動中有時可能不太可靠：隨著交流次數(shù)增多，模型接受的安全訓(xùn)練內(nèi)容可能會失效。例如，當(dāng)用戶首次提及自殺意圖時，ChatGPT 通常能正確提供自殺干預(yù)熱線，但經(jīng)過長期多次對話后，它最終可能會給出違反安全防護(hù)規(guī)則的回答?！?/p>

該公司還表示，目前正著手更新 GPT-5 模型，新版本將使 ChatGPT 具備“引導(dǎo)用戶回歸現(xiàn)實”的能力，從而緩解特定危機(jī)情況。

關(guān)于家長控制功能，OpenAI 稱該功能將“很快”推出，能“讓家長有更多途徑了解并引導(dǎo)青少年使用 ChatGPT 的方式”。該公司補(bǔ)充道：“我們還在探索一項功能 —— 允許青少年在家長監(jiān)督下指定可信賴的緊急聯(lián)系人。這樣一來，當(dāng)青少年陷入嚴(yán)重心理危機(jī)時，ChatGPT 不僅能提供求助資源，還能幫助他們直接聯(lián)系到可提供幫助的人。”

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。