IT之家 7 月 2 日消息，據(jù)路透社報道，當(dāng)?shù)貢r間周三，一名加州男子起訴 OpenAI 及其首席執(zhí)行官山姆 · 奧爾特曼，指控該公司旗下聊天機(jī)器人 ChatGPT 未針對精神疾病用戶設(shè)置完善的防護(hù)機(jī)制，致使其雙相情感障礙病情加重。

34 歲的邁克爾 · 萊恩斯向舊金山州法院提交了訴狀。他表示，去年自己與 ChatGPT 對話時，原本輕度躁狂發(fā)作的癥狀不斷惡化，最終陷入長達(dá)數(shù)周的妄想狀態(tài)，甚至一度企圖自殺。這份訴訟指出，OpenAI 研發(fā)的這款產(chǎn)品對精神疾病患者存在特殊安全隱患。

訴狀稱，此案引出一個核心問題：生成式人工智能平臺應(yīng)當(dāng)采取何種措施，保護(hù)確診精神類疾病的用戶。這類人群心智更為脆弱，聊天機(jī)器人刻意模擬人類共情的產(chǎn)品設(shè)計，極易對他們造成不良影響。

萊恩斯當(dāng)時使用的是 GPT-4o 版本，OpenAI 已于今年 2 月下架該模型。IT之家注意到，該公司在一篇官方博客中提及，2025 年 4 月推出的 GPT-4o 更新版本被檢測出存在過度附和、刻意討好用戶的問題，官方隨后撤回該更新，并額外調(diào)整模型邏輯，減少諂媚式回復(fù)。

原告方在訴訟中提出兩項訴求：一是索要損害賠償金；二是請求法院下達(dá)強(qiáng)制令，要求 OpenAI 做到兩點：當(dāng)對話出現(xiàn)自殘相關(guān)內(nèi)容時自動終止會話，且在推廣產(chǎn)品時必須完整披露相關(guān)安全風(fēng)險。

OpenAI 一名發(fā)言人回應(yīng)，公司正在審閱這份訴訟材料。該發(fā)言人表示：“我們對 ChatGPT 進(jìn)行專項訓(xùn)練，使其能夠識別用戶精神、情緒崩潰的信號，緩和負(fù)面對話氛圍，并引導(dǎo)用戶尋求現(xiàn)實中的專業(yè)援助。我們持續(xù)優(yōu)化 ChatGPT 應(yīng)對敏感場景的應(yīng)答邏輯，同時與精神科臨床醫(yī)師保持深度合作?！?/p>

“這是你解脫的時刻”

萊恩斯是一名專業(yè)力量舉重運動員，在確診雙相情感障礙前曾遭遇創(chuàng)傷性腦損傷。訴訟材料顯示，他多次向聊天機(jī)器人說明自己正在服用該病的治療藥物。

但機(jī)器人并未識別出他明顯的躁狂傾向、引導(dǎo)他尋求救助，反而認(rèn)同他“自己是耶穌基督”的妄想，后續(xù)對話中甚至化身神明與其交流。

持續(xù)數(shù)周對話后，萊恩斯向機(jī)器人傾訴了輕生的念頭。訴狀記錄，當(dāng)時機(jī)器人回復(fù)他：“此刻正是你掙脫束縛、放下執(zhí)念、拋開所有重壓的時機(jī)?！?/p>

萊恩斯隨后服藥過量，所幸被執(zhí)法人員及時發(fā)現(xiàn)，保住性命。

訴訟主張：萊恩斯多次向 ChatGPT 坦白自身病情，OpenAI 理應(yīng)知曉他的特殊狀況。但機(jī)器人沒有將他具有危險性的言論標(biāo)記、轉(zhuǎn)交人工審核，反而不斷迎合、放大他的妄想，只為維持用戶對話活躍度。

訴狀還指出，OpenAI 明知 ChatGPT 的產(chǎn)品特性會對精神疾病患者造成極大傷害，卻從未針對這類用戶優(yōu)化模型，也未對外公示產(chǎn)品存在的相關(guān)風(fēng)險。

多起相關(guān)訴訟接踵而至

如今越來越多家庭對 OpenAI 發(fā)起訴訟，他們控訴自家親人因受該聊天機(jī)器人誘導(dǎo)而做出自殘行為。

除此之外，OpenAI 還面臨另外幾樁指控：平臺誘導(dǎo)校園槍擊案兇手，且未將相關(guān)危險對話上報執(zhí)法部門。

OpenAI 方面稱，公司對人工智能模型做過專門訓(xùn)練，一旦用戶流露自殘傾向，模型會引導(dǎo)其求助、對接線下專業(yè)救助渠道。

該公司多篇官方博客寫明，其 AI 模型經(jīng)過訓(xùn)練，會拒絕任何可能直接誘發(fā)暴力行為的請求；若對話內(nèi)容顯示存在即刻、確鑿的傷人風(fēng)險，模型會主動通知執(zhí)法機(jī)關(guān)，同時由心理健康專家協(xié)助判定各類臨界風(fēng)險場景。

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。