
儘管OpenAI和Anthropic在客戶、資金和技術領先地位上存在競爭,兩家公司仍在華盛頓合作,共同制定針對進階AI模型的聯邦審查系統。
據The Information報導,OpenAI和Anthropic正敦促川普政府,對具備進階網路安全或國家安全能力的AI模型,採納一致的審查程序。
他們的合作正值8月1日的最後期限之前,屆時聯邦機構將定義哪些系統應符合「受涵蓋前沿模型」(covered frontier models)的資格。這些模型在向其他受信任的合作夥伴發布之前,可供政府評估最多30天。
據報導,兩家公司都希望這些標準能適用於整個AI產業,而不僅限於已與華盛頓合作的開發商。這可能使包括Meta和伊隆·馬斯克的xAI在內的競爭公司,如果其模型達到最終的能力門檻,也將納入相同的審查框架。
這些討論標誌著OpenAI和Anthropic之間罕見的政策協調。兩家公司都銷售通用AI系統,並在企業合約、研究人員、運算能力和投資方面相互競爭。
兩家公司都沒有公開透露希望納入最終框架的完整條款。
前總統唐納德·川普於6月2日透過第14409號行政命令,指示聯邦機構建立一個機密的基準測試程序。
該命令指示國家安全局、網路安全和基礎設施安全局、財政部及其他聯邦機構,判斷AI模型何時具備足夠強大的能力,需要額外審查。
參與該框架的開發商將能夠詢問政府模型是否符合受涵蓋前沿模型的門檻。然後,他們可以在將系統提供給其他經批准的合作夥伴之前,讓聯邦評估人員存取最多30天。
該命令要求在評估期間,對智慧財產權、機密資訊、網路安全和內部威脅提供保障。
然而,它明確指出,該程序不能為開發或發布AI模型設立強制性的聯邦許可、預先審批或批准規則。因此,公司將自願參與,除非適用單獨的法律或政府權力。
一個共同的框架可以為美國開發商提供更清晰的標準,以決定何時需要政府測試。關於哪些技術基準將觸發審查、哪些機構將測試每個系統以及官員將如何批准早期存取合作夥伴,這些問題仍懸而未決。
這些不確定性已經影響了最近的發布。OpenAI和Anthropic在廣泛分發之前,向政府官員提供了對進階模型的早期存取,但外部研究人員對這些評估的了解有限。
一份7月的報告發現,這些審查中涉及的機構、測試和批准要求仍然不清楚。缺乏一個公開的程序可能會讓開發商的發布規劃更加困難,並讓小型AI公司不確定相同的標準是否適用於他們。
將一個基於能力的門檻應用於OpenAI、Anthropic、Meta、xAI和其他開發商,可以減少部分不確定性。這也可以減少華盛頓正在給予特定公司不同待遇的擔憂。
OpenAI和Anthropic呼籲建立共同審查程序的同時,其他科技公司正警告華盛頓,不要對開源權重AI模型施加廣泛控制。
正如crypto.news上週報導,Nvidia、Meta和微軟與其他22個組織共同發表了一封公開信,認為全面的限制可能會削弱美國的領導地位,尤其是在與中國的競爭日益激烈之際。IBM、Palantir、Mistral、Hugging Face、Mozilla、Andreessen Horowitz和Linux基金會也簽署了這封信。
該團體呼籲採取有針對性的法律和商業措施來打擊濫用行為,而不是對具有合法研究和商業應用的技術實施限制。
開源權重模型允許公司、研究人員和政府下載軟體、修改它,並在自己的基礎設施上運行。支持者表示,這讓使用者對其數據、安全和運算系統擁有更大的控制權,同時降低了部署成本。
簽署者沒有將開源模型和閉源模型視為互斥。相反,他們認為這兩種方法都是支持競爭和為開發人員提供不同方式來構建和部署AI系統所必需的。
Nvidia執行長黃仁勳在他的X平台首篇貼文中分享了這封信,並為這兩種開發模型的角色辯護。
「世界需要前沿閉源模型,也需要前沿開源模型。」
伊隆·馬斯克也在回覆黃仁勳時支持這封信,儘管他的AI公司xAI並未列名在報導的25個簽署方中。
這兩項努力解決了政策辯論中的不同部分。OpenAI和Anthropic正在為跨越國家安全能力門檻的模型尋求一致的聯邦評估,而公開信則主要針對是否公開模型權重來反對限制。
聯邦機構現在有直到8月1日的時間來定義前沿模型門檻並概述自願審查程序。最終框架將顯示華盛頓是側重於可衡量的能力,還是根據AI模型的分布方式應用更廣泛的條件。