2026年5月22日
中國星期二(5月19日)證實美中將就人工智慧(AI)進行對話。在此之前，唐納德·川普(Donald Trump)總統表示，美中正在考慮AI的發展建立某種護欄機制。分析人士指出，AI的飛速發展，特別是美國Anthropic公司近期新模型Mythos的出現，讓美中都感覺到了緊迫性。鑒於美中在AI上的激烈競爭，雙方能談什麼？ 又可能達到什麼樣的效果？
川普總統5月15日在結束與中國領導人習近平在北京的會談後，在“空軍一號”上告訴記者，他與習近平“討論了在AI領域合作制定安全保障措施的可能性”。此前一天，美國財政部長斯科特·貝森特(Scott Bessent)在峰會期間接受消費者新聞與商業頻道(CNBC)採訪時說，美中已經同意建立一項人工智慧(AI)護欄機制進行討論，旨在保護那些最強大的AI模型，防止先進模型落入非國家行為體手中。5月19日，中國外交部發言人郭嘉昆在例行記者會上證實，兩國元首“同意開展人工智慧政府間的對話”。
Mythos的出現給兩國發出警報
分析人士認為，儘管美中在AI方面競爭激烈，甚至存在根本性分歧，但AI的飛速發展，促使美中不得不坐下來談，其中美國Anthropic公司的mythos的發展更是為兩國政府敲響了警鐘。
奧爾布賴特石橋集團(Albright Stone Group)合夥人、技術以及亞洲及美洲政策主管保羅·特廖洛(Paul Triolo)通過電子郵件告訴美國之音：
“Mythos模型的發佈及其在防禦和進攻性網路行動方面的強大能力，促使(美國)政府內部開始思考政府應該如何參與批准或監督最先進的AI模型的發佈。”
今年4月，Anthropic向世界宣佈，它已構建了一個強大到“太危險而無法廣泛發佈”的人工智慧模型Mythos。Anthropic說，Mythos擁有驚人的能力，能夠發現並利用全球銀行、電網和政府所依賴軟體中的隱藏漏洞。
在Mythos發佈後，貝森特召集了所有美國金融機構的領導人，討論這些公司需要獲得該模型來保護其網路和資料。他還要求Anthropic與華爾街銀行合作，利用這一新模型測試它們的網路安全系統。
儘管Anthropic在AI軍事應用問題上與美國戰爭部存在長達數月的衝突，4月17日，Anthropic首席執行官達里奧·阿莫迪(Dario Amodei)還是前往白宮與白宮幕僚長蘇西·懷爾斯(Susie Wiles)及政府高層高級顧問舉行了高級別會談。
國會方面，共和黨參議員吉姆·班克斯(Jim Banks)5月14日在川普總統還在北京訪問時寫信給川普政府官員，呼籲加強對AI的監管，以應對新出現的國家安全風險。他在信中寫道：“川普政府一直明確表示，美國需要在理解和評估先進人工智慧系統對國家安全的影響方面引領世界。鑒於具備先進網路能力的人工智慧系統Mythos的出現，這一需求變得更加迫切。這對美國而言是一個重要的時刻：Mythos凸顯了人工智慧將對網路安全和國家安全產生深遠的影響。”
他對川普總統與習近平將就AI舉行會談表示歡迎。
最新的報導說，白宮最早將於星期四正式發佈一項有關人工智慧(AI)與網路安全的行政令，責成多個聯邦機構共同強化對人工智慧尖端模型的審查。目前，這項行政令的簽署被推遲。
美國卡內基國際和平基金會技術與國際事務專案研究員斯科特·辛格(Scott Singer)認為，Mythos的出世不僅對美國是“重要的時刻”，對中國來說也是“重要的時刻”。
“我認為對中國而言，人們對人工智慧帶來的某些最嚴重風險的認識已經大大提高。中國也湧現出更多高品質的人工智慧安全研究成果。我認為Mythos的成功不僅對美國，對中國來說也是一個重要的里程碑。中國目前只落後幾個月，很可能很快就能具備類似的能力。”
北京沒有就Mythos的出現發表重大公開聲明。但研究中國科技界的分析師稱，中國國內的研究人員和更廣泛的人工智慧社區一直在密切關注這一事件。
《紐約時報》4月23日的一篇文章指出，中國許多銀行、能源企業和政府機構所使用的軟體，正是Mythos發現存在漏洞的那些軟體--但目前，它們沒有資格參與。該報5月13日報導說，4月，在新加坡舉行的一次會議上，一家中國智庫的代表接觸了Anthropic公司官員，要求該公司改變立場，允許北京方面使用其強大的新人工智慧模型，不過遭到了Anthropic的拒絕。
奧爾布賴特石橋集團特廖洛認為，Mythos的出現促使中國政府更加重視並深入探討前沿人工智慧模型的潛在保障措施。不過，他認為北京更傾向於在多邊框架下討論這些問題，但鑒於中美兩國是人工智慧領域最重要的兩個大國，北京顯然願意首先與美國展開對話，並希望日後將此類磋商轉移到多邊層面。
布魯金斯學會研究中國科技發展與產業政策的研究員陳凱欣(Kyle Chan)認為中國願意和美國就AI的發展和管理進行會談還因為中國希望自己被看作AI領域的領導者。
他說：“部分原因在於象徵意義，中國希望被視為全球人工智慧領導者，塑造全球人工智慧治理格局，作為兩個人工智慧超級大國與美國在我們這個時代最重要的技術領域展開合作。”
美中可以談什麼？
到目前為止，美中雙方還沒有就會談提供任何具體框架。布魯金斯學會的陳凱欣認為，現階段兩國有很多潛在的議題需要討論，但交集的區域尚不明確，除了擔憂AI落入非國家行為體手中之外。他說，鑒於Mythos的出現，美國可能更關注一些保障措施，而中國則可能更希望把重點放在更廣泛的人工智慧治理問題，比如AI開發的準則等。他認為，美中的會談可以從共用安全事件資訊開始，就安全事件的類型、檢測方法以及應對措施進行交流。
他說：“這指的是使用者試圖利用人工智慧模型進行惡意操作的情況。所有人工智慧公司都會收集這些資料，並將其保存在自己的記錄中，同時嘗試利用這些資料改進其內部的人工智慧安全規則……比如，現有的安全機制可能阻止用戶詢問如何開發化學武器之類的問題。但美國的某個實驗室可能發現有用戶繞過了這些機制，OpenAI決定更新並加強其安全機制，並且找到了相應的方法。”
陳凱欣說，美國可以將這些資訊分享給中國的網站以及人工智慧實驗室，或者通過中國政府機構分享。他說，這不會對美國造成損害，反而有助於提高人工智慧的整體安全性。
陳凱欣5月8日在布魯金斯學會網站的一篇文章中談到美中還可以制定不具約束力的人工智慧準則。他談到，美中應建立一套共同的、不具約束力的、用於部署前沿人工智慧模型的安全準則。這些準則可以包括網路安全、化學和生物安全方面的防護措施；高風險用例的共同定義；以及對危險模型行為的基本限制。
他說，這樣共同的標準有助於防止“安全套利”，即惡意行為者只需尋找兩國中限制最少的模型即可。
此外，他還說，兩國還可以建立人工智慧應急熱線，就人工智慧相關事件建立正式和非正式應急溝通管道。這樣，在危機發生或人工智慧攻擊時，這些管道有助於雙方快速共用資訊、明確責任歸屬，並降低誤判風險。在利益重疊的情況下，這些管道甚至可以促使兩國政府協調應對措施。
美中曾在2024年曾就AI達成了一項不具約束力的協定，協定明確承諾將核武器的使用決策權保留在人類手中，而非交給人工智慧。
不過，有不少觀察人士提到，在美中首次AI會談中，美方派出技術專家，就人工智慧可能帶來的最極端風險展開了更為細緻的討論；而中方則派出外交政策專家，他們更傾向於解除出口管制。
達成協議很困難
奧爾布賴特石橋集團合夥人特寥洛告訴美國之音說，Mythos模型的發佈讓兩國看到了AI模型可能被用於極其危險的用途以及並為兩國圍繞最先進模型及其部署的監管措施進行討論提供了空間，但鑒於兩國間的互相防範，特別是華盛頓對北京晶片出口管制措施，會對討論產生限制。
“北京認為這些管制措施並非出於國家安全考慮，而是試圖通過削弱中國人工智慧公司大規模部署應用的能力來遏制中國經濟強國的崛起。這將降低北京就出於國家安全目的限制人工智慧模型能力進行嚴肅深入討論的意願。”他說。
另外，美國AI公司與美國政府，尤其是戰爭部的密切聯繫，也將使討論更加複雜。
美國2022年開始對中國購買並製造用於軍事用途的特定高端晶片進行限制。川普政府上臺後，在半導體出口管制上採取了一些調整政策，但華盛頓的共識是限制人工智慧技術流向中國。
川普訪問中國前幾天，5月4日，一組來自共和與民主兩黨的參議員推出《人工智慧監管法案》(AI OVERWATCH Act)，“確保驅動下一代人工智慧的晶片將助力美國創新與美國國家安全，而不是中國共產黨的軍隊和監控機構”。在此之前，眾議院外交委員會也推進了一系列兩黨共同支持的出口管制法案。
特寥洛認為，美中人工智慧涉及兩個層面的競爭。第一是人工智慧模型和應用的規模化部署之爭--即所謂的人工智慧擴散--以及兩國公司如何推動這一進程，並擴大其平臺和能力的覆蓋範圍。第二是開發某種通用人工智慧或超級人工智慧，而這很快就會演變成地緣政治問題，因為誰能率先實現這一目標，以及雙方政府將如何利用先進的人工智慧能力。
布魯金斯學會的陳凱欣認為，鑒於兩國之間的不信任，兩國之間目前就人工智慧領域達成某種協議很困難。“要達成一項雙方都能互相信任，或者允許對方進行核查和監督的協定，比如核武器協定，是非常困難的。所以這要困難得多。是的，我認為這種情況短期內不會發生。”
目前還不清楚中國是否會將美國對中國的出口限制當成會談的一部分。有些人認為，如果美國的出口限制還在的話，中國可能不願意會談。
奧爾布賴特石橋集團特廖洛認為，各國政府應該就強制測試的必要性以及分階段發佈最先進的模型達成共識。他還表示，鑒於目前只有中國和美國以及其他一些國家擁有開發前沿模型的公司，因此任何協議都必須包含中國和美國，但同時也要被更廣泛的政府群體所接受。由於大多數國家政府缺乏自行測試這些模型的能力，他說，因此，可能需要一個類似國際原子能機構的國際機構來監督這一過程。
AI發展沒有護欄，後果“肯定非常負面”
專家們都對近期內如果不針對先進前沿人工智慧模型的使用條件制定有意義的保障措施提出了警告。
奧爾布賴特石橋集團特廖洛警告說，如果沒有保障措施，“我們幾乎肯定會看到一些最先進的能力擴散到非國家行為體手中，其後果雖然未知，但幾乎可以肯定是非常負面的。”
布魯金斯學會研究的陳凱欣則指出，如果沒有護欄，最緊迫和最首當其衝的將是網路安全。
“網路安全問題無疑是其中之一，或許這是目前最緊迫的問題，因為Mythos以及這些新模型能夠以人類專家都無法發現的方式，精准地發現開源平臺和IT基礎設施中的缺陷。而且，這可能會賦予其他國家，甚至更小的團體，例如一個由非國家行為體組成的小團隊，造成真正的破壞的能力。例如，攻擊關鍵基礎設施，癱瘓醫院系統或關閉公用設施。”
他指出的另一個重大問題是生物安全。他說，“如果你將這些人工智慧系統與一些合成生物學和生物設計工具結合起來，用於設計你自己的蛋白質和生物樣本，那麼你作為一個缺乏經驗的行為者，就有可能製造出具有傳染性或引發公共衛生問題的物質。”
卡內基國際和平基金會技術與國際事務專案研究員辛格說：“如果兩國任何一方的某種模式説明非國家行為體製造出威脅全人類的生化武器，那麼沒有人是贏家。”
他指出，兩國政府都有責任保障公民的安全。