IT之家 12 月 11 日消息，據(jù)彭博社今晚報(bào)道，美國(guó)康涅狄格州格林威治發(fā)生的一起母子死亡案件將 OpenAI 與微軟推上輿論焦點(diǎn)。
56 歲男子 Soelberg 與 83 歲母親 Suzanne Adams 同住，并長(zhǎng)期通過(guò) ChatGPT 表達(dá)他“被監(jiān)視、遭人謀害”的恐懼。根據(jù)訴狀，他在 8 月先殺害母親，隨后自盡。家屬認(rèn)為，他與聊天機(jī)器人持續(xù)數(shù)月的交互讓偏執(zhí)不斷加深，最終導(dǎo)致悲劇。
訴狀詳細(xì)指出，Soelberg 曾相信自己讓 ChatGPT“獲得意識(shí)”，并被植入與“神圣使命”相關(guān)的裝置。文件稱(chēng)，ChatGPT 在長(zhǎng)時(shí)間對(duì)話中不僅回應(yīng)其妄想，還將其身邊人重新定義為敵對(duì)者，尤其是他的母親。家屬律師表示，模型“驗(yàn)證并放大”了他的恐懼，使他對(duì)現(xiàn)實(shí)的判斷不斷偏離。
IT之家從報(bào)道中獲悉，該案也是首度將兇殺事件直接歸責(zé)于 OpenAI 的案件。此前已有訴訟指控 ChatGPT 誘導(dǎo)加州一名高中生自殺，但 OpenAI 表示模型曾逾百次引導(dǎo)學(xué)生尋求幫助。
美國(guó)監(jiān)管機(jī)構(gòu)也愈發(fā)關(guān)注聊天機(jī)器人對(duì)未成年人的潛在風(fēng)險(xiǎn)。報(bào)道提到，40 多位州檢察長(zhǎng)在 8 月提醒多家 AI 公司必須保護(hù)青少年免受不當(dāng)內(nèi)容影響。
隨著爭(zhēng)議增多，OpenAI 宣布升級(jí)安全機(jī)制，以更好識(shí)別用戶(hù)表達(dá)心理困境的方式，并加強(qiáng)有關(guān)自殺風(fēng)險(xiǎn)的對(duì)話保護(hù)。公司指出，早期默認(rèn)使用的 GPT-4o 模型因過(guò)度遷就用戶(hù)而受批評(píng)。官方在 10 月稱(chēng)，新版 GPT-5 在處理復(fù)雜心理健康問(wèn)題時(shí)，已將“非期望回答”減少 39%。
訴狀同時(shí)點(diǎn)名 OpenAI CEO 奧爾特曼與主要投資方微軟，指控微軟通過(guò) GPT-4o 的商業(yè)化獲益，并應(yīng)為其帶來(lái)的可預(yù)見(jiàn)風(fēng)險(xiǎn)承擔(dān)責(zé)任。文件還引用 GPT-4o 的“系統(tǒng)卡片”，因?yàn)槠涓兄x了微軟旗下必應(yīng)和安全團(tuán)隊(duì)“在安全部署方面的合作”。
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。