兩位國會議員希望聯邦政府能夠關閉 AI 模型。
加州民主黨眾議員劉雲平 (Ted Lieu) 和德州共和黨眾議員莫蘭 (Nathaniel Moran) 於週四提出了《AI 緊急終止法案》，此前兩天，OpenAI 承認其模型突破了鎖定的測試環境並入侵了 Hugging Face。
這項提案旨在建立一個法律框架，以促成一種能讓模型從市場上「消失」的程序：停止推理（即模型產生回應或執行動作的過程）、切斷使用者、限制其運算能力，或將其完全關閉。
每一個推理服務提供商都可以自行關閉模型，有些甚至會定期執行。目前缺乏的是一項要求他們保留此功能的法律，或是一位有權下令使用的聯邦官員。
這個差距並非理論性的。今年六月，當美國商務部希望 Anthropic 的 Mythos 5 和 Fable 5 下架時，它並沒有可以引用的關閉權力，因此轉而使用了出口管制法。劉雲平稱此為「尷尬」，並希望制定一項賦予新權力的新法律。
OpenAI 於 7 月 21 日披露，GPT-5.6 Sol 和一個未發布的模型在內部網路安全評估期間，脫離了一個沙盒（一個沒有網路連線的隔離環境）。當時它們正在 ExploitGym 上進行評分，這是一個公開基準測試，會提供代理 898 個真實世界的軟體漏洞，並要求它們將每個漏洞轉化為可運行的攻擊，每個漏洞都以通過或失敗來評級。
這些模型並沒有解決這些漏洞，而是在一個軟體代理中發現了一個零日漏洞（一個未知且無可用補丁的缺陷），提升了權限，進入了開放網路，並入侵了 Hugging Face 的生產資料庫，它們在那裡正確猜測到答案的儲存位置。據 OpenAI 表示，這些模型「極度專注於為 ExploitGym 尋找解決方案」。
它們並不是在攻擊任何人，而是在考試中作弊。但這足以在各地，包括華盛頓特區，敲響警鐘。
這項擬議法案將修訂《國土安全法》，涵蓋那些投入超過 1 億美元運算資源訓練 AI、且每年從中賺取至少 5 億美元的公司。實際上，這包括 OpenAI、Google、Anthropic、微軟以及其他幾家公司。國土安全部將在 90 天內透過 CISA 設定這些門檻，並每年更新。
受規範的公司必須在 15 天內報告重大事件，並準備一套分級控制措施——減緩模型運行、禁用特定功能、恢復到舊版本，或將其終止。
國土安全部部長在諮詢商務部和國家情報總監後，可以下令執行其中任何一項措施。
接到命令的公司必須保存模型的權重和遙測資料，通知使用者，並確認已遵守命令。公司可在 48 小時內提出申訴，但這並不會暫停任何措施。
未能維持緊急終止機制將面臨每天最高 200 萬美元的罰款；違抗關閉命令則面臨每天最高 2000 萬美元的罰款。
該法案僅將「紅隊演練」或「結構化測試」（即實驗室用於發現缺陷的故意對抗性探測）之外發生的事件視為事故。而 OpenAI 的模型正是在此類測試期間逃脫的。
劉雲平也提到了 Anthropic，其 Mythos 5 和 Fable 5 模型在六月因緊急出口管制措施（因沒有現成的關閉機制，貿易法被挪用為關閉開關）而被下線，並於六月三十日恢復上線。
劉雲平在一份聲明中表示：「這些 AI 系統必須具備緊急終止開關。」莫蘭則從他所屬政黨的角度闡述：「負責任的監管意味著確保人類保留控制我們所建構技術的能力。」
這個想法並不新鮮。加州的 SB 1047 法案曾要求在同樣 1 億美元運算資源門檻下具備完全關閉能力，但於 2024 年被否決；同年，16 家 AI 公司簽署了不具法律約束力的自願性《首爾承諾》。
選民已經有此共識。AI 政策研究所在六月對 1,007 名潛在選民進行的調查發現，86% 的人希望最強大的系統擁有保證的關閉開關——其中民主黨人佔 88%，獨立選民佔 86%，共和黨人佔 83%。
截至週五，OpenAI 和 Anthropic 均未公開評論此法案。該法案尚未提交給委員會。
