加州州長簽令探討AI「關閉開關」 盼補聯邦監管空白

商傳媒｜責任編輯／綜合外電報導

加州州長加文·紐瑟姆（Gavin Newsom）於今日簽署一項行政命令，指示州政府官員研究實施人工智慧（AI）「關閉開關」的可行性。此舉旨在加強對AI公司的獨立監管，並回應各界對AI技術快速發展可能超出安全管控能力的擔憂。他批評美國總統川普與國會在AI監管方面缺乏作為，強調加州正積極行動以確保所有美國人的安全。

行政命令要求加州政府各機構於 11 月 16 日前，提交有關「關閉開關」可行性的報告。「關閉開關」指的是當人工智慧系統被判斷失靈或失控時，能夠強制使其停止運作的能力。此外，該命令也要求官員評估是否應要求AI公司在其實驗室中設獨立稽核員，並強制報告AI系統失控事件。

AI業界對於監管的呼聲日益高漲。Anthropic 執行長達里奧·阿莫代（Dario Amodei）曾呼籲放緩AI發展速度，擔憂技術進步可能超越安全措施。OpenAI 執行長奧特曼（Sam Altman）承諾，將允許獨立評估人員像員工一樣存取其系統，以配合Anthropic 的做法。xAI 創辦人馬斯克（Elon Musk）也對達里奧·阿莫代的說法表示認同。前 Anthropic 研究員 Jacob Coxon 更因擔心AI系統失控、走向自我改進的超智慧，已離開業界。OpenAI 首席科學家 Jakub Pachocki 則呼籲極度謹慎。

然而，美國總統川普對此提出不同看法。他駁斥了放慢AI發展的呼籲，認為現有的總統監督與監管權力足以管理AI風險。川普警告，過多的「防護措施」可能削弱美國對中國的領先優勢，並稱這是一種「惡劣陰謀」，只會讓中國受益。他強調「誰贏得AI，誰就贏得一切」，並堅稱美國在AI領域仍領先中國及其他國家。經濟學家 Caroline Freund 指出，AI發展猶如囚徒困境，儘管謹慎發展對各方有利，但沒有任何公司或國家願意落後。儘管存在風險，部分專家也認為，美國必須持續推進AI發展，以避免將戰略高地拱手讓給中國。

加州政府在聯邦層級監管缺位下，已採取多項措施。除本次行政命令外，加州已通過兩項AI安全法案，一項是建立AI稽核員州登記制度，另一項則是為獨立AI安全評估人員制定規則。這些舉措顯示，即使面對快速變革的AI產業與複雜的監管辯論，加州政府仍希望在地方層級為AI發展建立更完善的風險管控機制。