CNEWS匯流新聞網記者王佐銘／綜合報導
加州州議會於近日正式通過了《前沿人工智慧模型安全創新法案》，這是美國首批對人工智慧進行重大監管的法規之一。該法案目的在於，確保在加州運營的人工智慧公司在訓練高級基礎模型前採取必要的安全措施，進一步保護社會免受潛在的人工智慧風險。
根據法案內容，人工智慧公司需具備快速關閉模型的能力，防止不安全的修改，並設立測試程序以評估模型及其衍生產品是否存在嚴重危害的風險。法案的主要作者、加州參議員斯科特·維納（Scott Wiener）表示，SB 1047是一項極其合理的法案，要求大型人工智慧實驗室履行其承諾，確保其技術在安全範圍內運作。
支持者認為，這項法案提供了一條切實可行的前進道路來應對AI技術可能帶來的關鍵風險。人工智慧安全中心主任Dan Hendrycks指出，這項法案為實施「減輕關鍵AI風險的保障措施」提供了「可行的前進道路」。
然而，該法案也引發了一些爭議。包括OpenAI和Anthropic在內的多家人工智慧公司，以及政治人物Zoe Lofgren和Nancy Pelosi等人認為，該法案過於集中於災難性風險，可能會對小型開源人工智慧開發者產生不利影響。為此，法案進行了修訂，用民事處罰取代了潛在的刑事處罰，並調整了加州總檢察長的執法權限。
修訂後的法案預計將在加州參議院獲得通過，隨後將交由加州州長Gavin Newsom簽署成為法律。州長將有時間到九月底前決定該法案的命運。
更多CNEWS匯流新聞網報導：
【文章轉載請註明出處】
