IT之家 4 月 27 日消息，OpenAI 于 4 月 22 日發(fā)布了一款用于脫敏文本中個(gè)人身份信息 (PII) 的前沿模型 Privacy Filter。

該模型已以 Apache 2.0 許可協(xié)議在 Hugging Face 和 GitHub 平臺(tái)同步開(kāi)源，供開(kāi)發(fā)者下載、定制及商業(yè)部署。

OpenAI 表示，開(kāi)發(fā)者在自己的環(huán)境中運(yùn)行這一模型后，可針對(duì)特定用例進(jìn)行微調(diào)，在訓(xùn)練管線、索引流程、日志記錄和審核環(huán)節(jié)中構(gòu)建更強(qiáng)的隱私保護(hù)機(jī)制。

與傳統(tǒng)依賴規(guī)則匹配的隱私過(guò)濾工具不同，OpenAI Privacy Filter 內(nèi)置了更深層次的語(yǔ)言理解能力，能夠根據(jù)上下文語(yǔ)境識(shí)別非結(jié)構(gòu)化文本中的個(gè)人信息，在準(zhǔn)確保留公開(kāi)信息的同時(shí)，對(duì)與特定個(gè)體相關(guān)聯(lián)的敏感數(shù)據(jù)進(jìn)行遮蓋或脫敏。

據(jù) OpenAI 介紹，該模型采用了雙向 Token 分類(lèi)架構(gòu)，版本總參數(shù)規(guī)模為 15 億，但每次僅激活約 5000 萬(wàn)個(gè)參數(shù)，這一混合專家（MoE）設(shè)計(jì)使其能夠運(yùn)行于筆記本電腦甚至瀏覽器等資源受限的設(shè)備上。

該模型支持高達(dá) 12.8 萬(wàn)個(gè) Token 的上下文窗口，單次前向傳播即可對(duì)整個(gè)輸入序列完成標(biāo)注，并采用受限維特比算法解碼出連貫的片段。

在隱私分類(lèi)體系方面，Privacy Filter 可識(shí)別八類(lèi)個(gè)人敏感信息：姓名（private_person）、地址（private_address）、郵箱地址（private_email）、電話號(hào)碼（private_phone）、URL 鏈接（private_url）、日期（private_date）、賬號(hào)信息（account_number，涵蓋銀行卡號(hào)、信用卡號(hào)等金融信息）以及機(jī)密信息（secret，如密碼和 API 密鑰）。

評(píng)估過(guò)程中，該模型在 PII-Masking-300k 基準(zhǔn)測(cè)試中取得了 96% 的 F1 分?jǐn)?shù)（準(zhǔn)確率 94.04%，召回率 98.04%）。

由于 PII-Masking-300k 數(shù)據(jù)集的初始注釋存在多處遺漏，OpenAI 在對(duì)評(píng)估中發(fā)現(xiàn)的標(biāo)注問(wèn)題進(jìn)行修正后，模型在該修正版基準(zhǔn)測(cè)試上的 F1 分?jǐn)?shù)進(jìn)一步提升至 97.43%（準(zhǔn)確率為 96.79%，召回率為 98.08%）。

OpenAI 指出，該模型在少量數(shù)據(jù)上進(jìn)行微調(diào)即可快速提升在特定領(lǐng)域的準(zhǔn)確性，且能夠在高精度與高召回率之間按需調(diào)整。

OpenAI 承認(rèn)，Privacy Filter 并非匿名化工具，亦不替代合規(guī)認(rèn)證，在法律、醫(yī)療和金融等高敏感性場(chǎng)景中，人工審核及領(lǐng)域特定的評(píng)估與微調(diào)依然是必要的。

在用戶日常使用中不慎將包含個(gè)人信息的文本粘貼到 AI 工具的行為并不罕見(jiàn)，Privacy Filter 定位為在本地即可運(yùn)行的預(yù)過(guò)濾層 —— 數(shù)據(jù)在不離開(kāi)用戶設(shè)備的前提下即可完成 PII 的檢測(cè)與脫敏處理，此后再將已脫敏內(nèi)容發(fā)送至云端 LLM，從而在使用強(qiáng)大 AI 服務(wù)的同時(shí)有效控制個(gè)人信息的暴露風(fēng)險(xiǎn)。

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。