IT之家 2 月 11 日消息，據(jù) Engadget 今日?qǐng)?bào)道，Roblox、Discord、OpenAI 和谷歌聯(lián)合推出了一個(gè)名為 ROOST（強(qiáng)大開放在線安全工具）的非營(yíng)利組織，旨在為 AI 時(shí)代構(gòu)建可擴(kuò)展且互聯(lián)互通的安全基礎(chǔ)設(shè)施。

該組織計(jì)劃向公共和私人機(jī)構(gòu)免費(fèi)提供開源安全工具，幫助它們?cè)谧杂衅脚_(tái)上加強(qiáng)安全防護(hù)，初期將重點(diǎn)關(guān)注兒童安全。ROOST 在宣布時(shí)特別指出，計(jì)劃提供“檢測(cè)、審核和報(bào)告兒童性虐待材料（CSAM）”的相關(guān)工具。合作公司不僅為這些工具提供資金支持，還提供了建設(shè)所需的技術(shù)力量。

ROOST 的理念是，生成式 AI 的快速發(fā)展正深刻改變網(wǎng)絡(luò)環(huán)境，對(duì)“可靠且易于訪問的安全基礎(chǔ)設(shè)施”的需求愈加迫切。ROOST 希望避免要求小公司或組織從零開始開發(fā)安全工具，而是免費(fèi)為其提供現(xiàn)成的解決方案。

據(jù)IT之家了解，兒童在線安全問題自《兒童與青少年在線隱私保護(hù)法案》和《兒童在線安全法案》在國(guó)會(huì)審議以來(lái)，一直備受關(guān)注，盡管這兩項(xiàng)法案都未能通過眾議院的投票。包括谷歌和 OpenAI 在內(nèi)的公司已承諾，將停止使用 AI 技術(shù)生成兒童性虐待材料。

對(duì)于 Roblox 來(lái)說(shuō)，兒童安全問題尤為緊迫。2020 年數(shù)據(jù)顯示，美國(guó)九至十二歲的兒童中有三分之二使用 Roblox，而該平臺(tái)一直在兒童安全問題上面臨挑戰(zhàn)。2024 年，《彭博商業(yè)周刊》報(bào)道公司曾遭遇“戀童癖問題”，這促使公司對(duì)兒童私信實(shí)施了更多限制和新政策。

報(bào)道稱，雖然 ROOST 不能解決所有問題，但它將為類似 Roblox 的其他組織或公司提供更簡(jiǎn)便的應(yīng)對(duì)方案。

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。