加州州長拒絕具有里程碑意義的人工智慧安全法案

加州立法機構28日通過第1047 號法案「前沿人工智慧模型安全創新法案」（Safe and Secure Innovation for Frontier Artificial Intelligence Models Act），此一旨在監管強大AI模型的法案通過後提交州長紐森（Gavin Newsom）簽署，但紐森動用否決權拒絕簽署。

該法案如獲通過將對相關模型具有以下影響，包括：

• 實施行政、技術和物理的網路安全措施：以防止未經授權的存取、不當使用或訓練後的修改。
• 實施全系統關閉功能：確保在必要時可完全關閉模型運作。
• 書面安全和保安協議：並指定高級人員負責確保協議的實施。該協議需在模型可用期間保存（外加五年），並向加州總檢察長提交和公佈。
• 評估模型是否有可能造成或啟動實質性損害：確保模型的使用不會引發重大危害。
• 禁止將存在重大風險的模型投入商業或公共使用：如果模型可能引發或造成嚴重損害，則不得公開或商業化使用。
• 進行並保留年度第三方審核：確保模型安全性和合規性，並由獨立機構進行審核。
• 提交合規聲明：向加州總檢察長提交符合規定的聲明。
• 報告安全事件：將任何安全事故通報給加州總檢察長。

該法案還規定由加州總檢察長負責執行，對於違規行為可實施金錢罰款和禁令等法律救濟措施。

新聞來源：

加州州長動用否決權 爭議性AI安全法案喊卡 | 國際 | 中央社 CNA

California governor Gavin Newsom vetoes landmark AI safety bill (bbc.com)