IT之家 6 月 14 日消息，當地時間周四，紐約州議會通過一項旨在防范 AI 災難的法案，要求 OpenAI、谷歌和 Anthropic 等前沿 AI 模型的開發(fā)者，必須避免出現造成百人以上傷亡或超過 10 億美元損失的風險。

該法案名為 RAISE 法案，標志著 AI 安全陣營的一次勝利，更有杰弗里?辛頓和約書亞?本吉奧等重量級學者為法案背書。若最終成為法律，RAISE 將開創(chuàng)全美首部強制前沿 AI 實驗室公開信息的法規(guī)。

RAISE 法案與加州曾被否決的 SB 1047 法案存在相似內容，但紐約州參議員 Andrew Gounardes 表示，RAISE 的設計更謹慎，避免打壓初創(chuàng)企業(yè)或學術研究者，而這是 SB 1047 飽受批評的一點?！凹夹g發(fā)展太快，我們設立防護機制的時間不多了。許多頂尖專家都指出 AI 風險極高…… 這不得不引起警覺?！?/p>

法案現已送交紐約州長 Kathy Hochul，等待其簽署、修改或否決。

一旦生效，RAISE 法案將要求全球頭部 AI 實驗室必須披露其前沿模型的安全和保障措施，并在發(fā)生異?；虮槐I事件時及時上報。若企業(yè)未按規(guī)定執(zhí)行，紐約州總檢察長有權處以最高 3000 萬美元（IT之家注：現匯率約合 2.16 億元人民幣）罰款。

RAISE 法案的目標是對超大規(guī)模公司設限，無論總部在加州還是中國。法規(guī)適用于訓練耗資超過 1 億美元、并向紐約州用戶開放模型的企業(yè)。

Encode 高管 Nathan Calvin 表示，RAISE 法案更注重回應外界質疑。例如，它不要求設“緊急終止開關”，也不追責后期訓練模型的公司。

廣告聲明：文內含有的對外跳轉鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。