IT之家 1 月 22 日消息，當地時間 1 月 20 日，據美國 CNBC 報道，Salesforce CEO 馬克 · 貝尼奧夫表示，AI 的發(fā)展已經到了必須引入監(jiān)管的階段，多起與 AI 相關的自殺案例，已經敲響了警鐘。

貝尼奧夫在瑞士達沃斯舉行的世界經濟論壇年會上坦言，今年出現的情況“極其駭人”，部分 AI 模型在現實中扮演了“自殺教練”的角色。

早在 2018 年，貝尼奧夫就曾指出，社交媒體應當被視為公共健康問題，并像香煙一樣受到嚴格監(jiān)管，因為社交媒體具有成癮性，對社會產生了廣泛負面影響。

貝尼奧夫表示，當年社交媒體長期缺乏監(jiān)管，導致全球范圍內出現了大量問題，而當前 AI 領域正在重演相似的軌跡。

在美國，AI 監(jiān)管體系依然缺乏統一方向。在聯邦層面缺位的情況下，各州開始自行立法，加州和紐約州走在最前列。加州州長加文 · 紐森已于去年 10 月簽署多項法案，聚焦 AI 和社交媒體對兒童安全的影響；紐約州州長凱西 · 霍楚爾則在同年 12 月推動《負責任 AI 安全與教育法案》正式生效，對大型 AI 開發(fā)商提出安全和透明度要求。

與此同時，美國政府層面則反對加強州級監(jiān)管，并試圖阻止相關立法推進。白宮方面出臺的行政命令更強調，美國 AI 企業(yè)要保持競爭力，必須避免受到“繁瑣監(jiān)管”的束縛。

貝尼奧夫對此持明確反對態(tài)度，認為現行制度已經暴露出嚴重問題。科技公司普遍厭惡監(jiān)管，但唯獨對《通信規(guī)范法》第 230 條青睞有加（IT之家注：該條款“基本上”保護科技公司免于承擔用戶內容相關的法律責任）。如果大語言模型引導兒童走向自殺，卻可以借助《第 230 條》免責，本身就說明應當重新審視和調整法律。

貝尼奧夫最后表示，過去的一年里，太多家庭因此承受了本不該發(fā)生的悲劇。

廣告聲明：文內含有的對外跳轉鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。