IT之家 3 月 17 日消息，華爾街日?qǐng)?bào)昨日（3 月 16 日）發(fā)布博文，報(bào)道稱 OpenAI 計(jì)劃為 ChatGPT 推出“成人模式”，放寬支持成人內(nèi)容對(duì)話，引發(fā)其內(nèi)部心理健康顧問委員會(huì)的強(qiáng)烈抗議。

在成人模式細(xì)節(jié)方面，消息稱 OpenAI 為平衡數(shù)字自由與安全底線，僅允許 ChatGPT 生成帶有成人主題的文字對(duì)話（官方將其定義為“情色文字”而非“硬核色情”），并全面限制生成露骨的圖像、語音或視頻。

IT之家注：“情色文字”（smut）強(qiáng)調(diào) ChatGPT 的成人模式將僅限于文字層面的情色探討，用以區(qū)別于包含直白視覺沖擊的“色情 / 淫穢內(nèi)容”（Pornography）。

同時(shí)，系統(tǒng)將內(nèi)置算法攔截非自愿行為或兒童剝削等違規(guī)場(chǎng)景，并定期提醒用戶回歸現(xiàn)實(shí)社交。

報(bào)道稱 OpenAI 首席執(zhí)行官山姆 · 奧爾特曼（Sam Altman）主張取消對(duì)色情內(nèi)容的禁令，以“將成年人當(dāng)作成年人對(duì)待”。但是在今年 1 月的會(huì)議上，OpenAI 的心理健康與 AI 顧問委員會(huì)全票反對(duì)該計(jì)劃。

專家明確指出，AI 驅(qū)動(dòng)的情色內(nèi)容極易誘發(fā)用戶不健康的情感依賴，擠占現(xiàn)實(shí)生活中的社交與戀愛關(guān)系。一位顧問委員會(huì)成員警告，OpenAI 此舉可能打造出一個(gè)“性感自殺教練”。

數(shù)據(jù)進(jìn)一步放大了這一擔(dān)憂：OpenAI 新研發(fā)的年齡預(yù)測(cè)系統(tǒng)存在約 12% 的誤差率，會(huì)將未成年人誤判為成年人，這意味著每周可能有數(shù)以百萬計(jì)的未成年用戶意外接觸到情色對(duì)話。

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。