IT之家 9 月 17 日消息，OpenAI 昨晚發(fā)布公告，闡述了其在青少年安全、用戶自由與隱私保護三個原則之間的取舍與決策。

OpenAI 表示，這些領域存在一定沖突，因此需要在透明的前提下作出平衡。

OpenAI 強調(diào)，AI 對話涉及高度個人化的信息，其敏感程度可類比醫(yī)生問診或律師咨詢。公司認為，這類信息應獲得同等的“特權保護”，并正積極向政策制定者倡導這一立場。

為此，OpenAI 正研發(fā)更先進的安全功能，確保用戶數(shù)據(jù)即便對公司員工也保持私密性。但公告同時指出，在特定情況下仍會有例外，例如自動化系統(tǒng)監(jiān)測到嚴重濫用，或涉及生命威脅、他人安全風險、大規(guī)模網(wǎng)絡安全事件時，數(shù)據(jù)可能被提交人工審核。

OpenAI 表示，其目標是在安全范圍內(nèi)盡可能保障用戶的使用自由。隨著模型可控性增強，用戶的自由度也在逐步提升。例如，模型默認不會生成曖昧對話，但如成年用戶主動提出，則應當提供；而涉及自殺相關內(nèi)容時，模型不會提供實施指導，但若是成年用戶要求幫助創(chuàng)作包含自殺情節(jié)的虛構(gòu)作品，則應予以支持。OpenAI 稱這一原則為 “把成年人當成年人對待”。

對于未成年人群體，OpenAI 明確優(yōu)先考慮安全而非隱私和自由。ChatGPT 的使用對象設定為 13 歲及以上，公司正在研發(fā)年齡預測系統(tǒng)，以區(qū)分未成年人和成年人。

• 如果系統(tǒng)識別用戶未滿 18 歲，將自動進入青少年專屬模式，屏蔽露骨性內(nèi)容，并在用戶表現(xiàn)出嚴重心理困擾時，可能聯(lián)系家長或在緊急情況下通知執(zhí)法部門。

• 如果無法確定年齡或信息不完整，系統(tǒng)將默認進入未成年人模式；成年人則可通過驗證方式解鎖完整功能。

針對未成年用戶，OpenAI 制定了更嚴格的規(guī)則：

• 不允許生成曖昧對話；

• 不參與任何形式的自殺或自殘話題，即便是在文學創(chuàng)作背景下；

• 若用戶表現(xiàn)出自殺意圖，OpenAI 將嘗試聯(lián)系家長，若無法聯(lián)系則會在存在緊急危險時上報有關部門。

OpenAI 還宣布，將于本月內(nèi)推出 家長控制功能，支持家長：

• 通過電子郵件邀請，將自身賬戶與子女賬戶（13 歲以上）關聯(lián)；

• 管理 ChatGPT 針對青少年的行為規(guī)則；

• 控制是否啟用記憶功能與聊天記錄；

• 在檢測到青少年處于嚴重心理危機時接收通知（如無法聯(lián)系到家長則可能上報有關部門）；

• 設定“禁用時段”，限制青少年在特定時間段使用 ChatGPT。

此外，面向所有用戶的提醒功能仍將保留，例如在長時間使用時提示適度休息。

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。