IT之家 6 月 14 日消息，當(dāng)?shù)貢r(shí)間周四，紐約州議會(huì)通過一項(xiàng)旨在防范 AI 災(zāi)難的法案，要求 OpenAI、谷歌和 Anthropic 等前沿 AI 模型的開發(fā)者，必須避免出現(xiàn)造成百人以上傷亡或超過 10 億美元損失的風(fēng)險(xiǎn)。
該法案名為 RAISE 法案，標(biāo)志著 AI 安全陣營的一次勝利，更有杰弗里?辛頓和約書亞?本吉奧等重量級學(xué)者為法案背書。若最終成為法律，RAISE 將開創(chuàng)全美首部強(qiáng)制前沿 AI 實(shí)驗(yàn)室公開信息的法規(guī)。
RAISE 法案與加州曾被否決的 SB 1047 法案存在相似內(nèi)容，但紐約州參議員 Andrew Gounardes 表示，RAISE 的設(shè)計(jì)更謹(jǐn)慎，避免打壓初創(chuàng)企業(yè)或?qū)W術(shù)研究者，而這是 SB 1047 飽受批評的一點(diǎn)。“技術(shù)發(fā)展太快，我們設(shè)立防護(hù)機(jī)制的時(shí)間不多了。許多頂尖專家都指出 AI 風(fēng)險(xiǎn)極高…… 這不得不引起警覺?！?/p>
法案現(xiàn)已送交紐約州長 Kathy Hochul，等待其簽署、修改或否決。
一旦生效，RAISE 法案將要求全球頭部 AI 實(shí)驗(yàn)室必須披露其前沿模型的安全和保障措施，并在發(fā)生異?；虮槐I事件時(shí)及時(shí)上報(bào)。若企業(yè)未按規(guī)定執(zhí)行，紐約州總檢察長有權(quán)處以最高 3000 萬美元（IT之家注：現(xiàn)匯率約合 2.16 億元人民幣）罰款。
RAISE 法案的目標(biāo)是對超大規(guī)模公司設(shè)限，無論總部在加州還是中國。法規(guī)適用于訓(xùn)練耗資超過 1 億美元、并向紐約州用戶開放模型的企業(yè)。
Encode 高管 Nathan Calvin 表示，RAISE 法案更注重回應(yīng)外界質(zhì)疑。例如，它不要求設(shè)“緊急終止開關(guān)”，也不追責(zé)后期訓(xùn)練模型的公司。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。