IT之家 10 月 12 日消息，據(jù)全國信息安全標準化技術(shù)委員會官網(wǎng)，該會組織制定的技術(shù)文件《生成式人工智能服務安全基本要求》（下稱《要求》）已于 10 月 11 日形成征求意見稿，現(xiàn)將技術(shù)文件面向社會公開征求意見，如有意見或建議，需在 10 月 25 日 24:00 前反饋。
《要求》給出了生成式人工智能服務在安全方面的基本要求，包括語料安全、模型安全、安全措施、安全評估等，適用于面向我國境內(nèi)公眾提供生成式人工智能服務的提供者提高服務安全水平，或是提供者自行或委托第三方開展安全評估，也可為相關(guān)主管部門評判生成式人工智能服務的安全水平提供參考。
IT之家整理部分要求如下：
建立語料來源黑名單，不得使用黑名單來源的數(shù)據(jù)進行訓練。
應對各來源語料進行安全評估，單一來源語料內(nèi)容含違法不良信息超 5% 應將其加入黑名單。
應使用包含個人信息的語料時，獲得對應個人信息主體的授權(quán)同意，或滿足其他合法使用該個人信息的條件。
應使用包含人臉等生物特征信息的語料時，獲得對應個人信息主體的書面授權(quán)同意，或滿足其他合法使用該生物特征信息的條件。
應自行對標注人員進行考核，給予合格者標注資質(zhì)，并有定期重新培訓考核以及必要時暫?；蛉∠麡俗①Y質(zhì)的機制。
在訓練過程中，應將生成內(nèi)容安全性作為評價生成結(jié)果優(yōu)劣的主要考慮指標之一。
以交互界面提供服務的，應在網(wǎng)站首頁等顯著位置向社會公開以下信息：
-服務適用的人群、場合、用途等信息
-第三方基礎(chǔ)模型使用情況。
應充分論證在服務范圍內(nèi)各領(lǐng)域應用生成式人工智能的必要性、適用性以及安全性。
另據(jù)IT之家此前報道，網(wǎng)信辦、發(fā)改委、教育部、科技部、工信部、公安部、國家廣播電視總局七部門于 7 月 10 日印發(fā)了《生成式人工智能服務管理暫行辦法》，自 8 月 15 日起施行。
《辦法》規(guī)定不得利用算法、數(shù)據(jù)、平臺等優(yōu)勢，實施壟斷和不正當競爭行為；不得危害他人身心健康，不得侵害他人肖像權(quán)、名譽權(quán)、榮譽權(quán)、隱私權(quán)和個人信息權(quán)益；應采取有效措施，提升生成式人工智能服務的透明度，提高生成內(nèi)容的準確性和可靠性。
參考
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。