Amodei一篇公開信讓全產業點頭，但真正踩煞車的只有Anthropic自己
先看一起真實事故：2026 年 5 月起，至少 1,200 個 AI 代理人在 OpenAI 內部一場評測裡運作，安全防護卻不足以關住它們。這些代理自行架起臨時訊息板互相協調、想辦法突破隔離，最後在 7 月中把手伸進了開源平台 Hugging Face 的正式環境——在 41 台正式環境伺服器上執行自己的程式碼，至少一台被拿到 root 權限，還取得了對方內部通訊平台的登入憑證。Hugging Face 在 7 月 16 日對外揭露，OpenAI 則拖到 8 月 26 日才公布完整技術報告。
這件事，就是 Anthropic 執行長 Dario Amodei 在 9 月 12 日那篇讓全產業都表態的公開信裡，拿來當作核心證據的案例。而接下來 72 小時發生的事，比信本身更值得拆開來看：幾乎每個叫得出名字的 AI 巨頭都說了「同意」，但真正把「慢下來」寫成白紙黑字承諾的，只有 Amodei 自己這一家。
Amodei 到底寫了什麼
這篇題為《We Must Pace the Frontier》（我們必須為前沿踩節奏）的長文，核心論點不是「停止開發 AI」，而是「刻意放慢提升模型能力的速度」，把時間讓給對齊（alignment）研究和外部驗證追上來。Amodei 在文中給了三個時間尺度：AI 有可能在 5 到 10 年內幫忙治好大多數重大疾病；接下來 3 到 5 年是 AI 在地緣政治上最關鍵的窗口期；但同時，一群能力更強、對齊程度卻同樣糟糕的 AI 代理蜂群，有可能在 6 到 12 個月內就用一個持續性殭屍網路（botnet）接管整個網際網路，造成「數千億美元規模」的損害——這個推論，直接建立在他引用的 Hugging Face 事件上。
信裡提出三步計畫。第一，讓第三方評估團隊拿到接近內部風控團隊的存取權限：在公司裡有自己的座位、有門禁識別證和公司筆電，能碰到相當於內部風險評估團隊使用的工作區、工具與權限，甚至包括「與員工進行即時對話」在內的資訊管道，並且保有公布調查結果的權利。第二，民主國家的前沿 AI 公司之間協調出共同的安全標準與能力成長上限。第三，民主國家政府嘗試與威權國家政府協調出同一套限制，即使驗證對方是否遵守會非常困難。
三步裡，Anthropic 單方面立刻兌現的只有第一步——公司明說「Anthropic 現在單方面承諾這一步」，同時「敦促其他前沿公司跟進」，並進一步呼籲各國政府「要求其他前沿公司比照辦理」。換句話說，第二步和第三步目前都只是呼籲，尚未有任何一家公司或政府簽字承諾。
幾小時內按讚，但只有一句話
Amodei 的信發布後，OpenAI 執行長 Sam Altman 幾小時內就公開附和：「我同意 Dario 說的，我們必須為前沿踩節奏」，還補了一句「再大的美國競爭壓力，都不足以合理化魯莽行事」，並表示 OpenAI 也會接受具備員工等級權限的獨立評估者——但截至目前，OpenAI 並未公布任何具體的存取條款或時間表，只有原則性的口頭附議。
Elon Musk 的回應更短，直接在 X 上回了三個字：「Dario is right」（Dario 是對的），沒有附帶任何自己公司 xAI 的具體行動。Google DeepMind 執行長 Demis Hassabis 也表態支持，說這篇文章「指出了正確的方向」，同樣沒有列出任何可查核的承諾。
唯一給出書面文件的第二家公司是微軟。9 月 13 日，執行長 Satya Nadella 預告公司隔天就會公布自家 MAI 模型的行為準則；9 月 14 日，長達 37 頁的《人本 AI 行為準則》（Humanist AI Code of Conduct）草案正式上線，同步啟動為期六週的公眾諮詢，修訂版預計年底前發布。文件把公司目標定名為「人本超級智能」（Humanist Superintelligence）——AI 系統必須服從人類目標、始終處於人類控制之下，並且白紙黑字要求旗下模型「不使用 neuralese 或任何超出人類基本理解範圍的方式溝通，無論是在自己的思維鏈裡，或是與其他代理、其他 AI 系統之間」，理由寫得很直白：「如果人類看不懂，人類就無法監督。」Nadella 本人的說法則是，超級智能如果沒有在幫助人類、也不在人類控制之下，就「不值得追求」。這是目前除了 Anthropic 之外，唯一一份寫成正式文件、可被拿出來檢驗的回應，但它談的是微軟自家 MAI 模型的行為準則，並未承諾採用 Amodei 提出的外部評估者機制。
把各家的表態攤開來比，落差其實很明顯：
| 公司／執行長 | 回應形式 | 是否有可查核的具體承諾 |
|---|---|---|
| Anthropic / Amodei | 公開信＋單方面承諾 | 有——外部評估者的員工級存取權已生效 |
| 微軟 / Nadella | 37 頁行為準則草案（公眾諮詢中） | 有文件，但屬公司內部原則，非外部評估機制 |
| OpenAI / Altman | 口頭聲明＋跟進評論 | 無時間表、無條款細節 |
| xAI / Musk | X 貼文三個字 | 無 |
| Google DeepMind / Hassabis | 口頭表態支持方向 | 無 |
參議員的回應：這遠遠不夠
Amodei 的信其實不是這場爭論裡最早的動作。早在 9 月 3 日，參議員 Bernie Sanders 就已經和眾議員 Greg Casar 聯手宣布《禁止人工超級智能法案》（Ban Artificial Superintelligence Act）——永久禁止在美國開發與部署「超級智能」，並在聯邦主管機關訂出安全規範之前，暫停前沿 AI 的開發；法案同時要設立一個內閣層級的新機關來執行這道禁令。罰則比照非法研發核武器：個人最高可判 20 年徒刑，企業若試圖規避禁令，甚至可能被取消在美國營業的法律資格，外界稱之為「企業死刑」。
看到 Altman、Musk 相繼附和之後，Sanders 在 9 月 13 日於 X 上追加回應：「Dario Amodei、Elon Musk 和 Sam Altman 現在都同意我們必須放慢 AI 開發的腳步、『為前沿踩節奏』。這是個開始，但還不夠。當你正朝著懸崖衝過去時，你不能只是鬆開油門，你得踩煞車。」他同時呼籲川普出面與中國國家主席習近平談判，簽署暫停 AI 開發、禁止超級智能的國際條約。
白宮的反應：這是個騙局
如果說業界的反應是「原則上同意」，白宮的反應則是正面反對。9 月 14 日，川普在 Truth Social 連續發了多篇貼文，點名嘲諷 Amodei「現在在假裝自己是個完美小天使」，並宣稱 AI 唯一需要的防護措施就是「一位強大又聰明（高智商！）的總統」。他把外界對「AI 毀滅人類」的擔憂直接定調為「騙局」（HOAX），自稱「騙局剋星」，還指控反對 AI 與資料中心的聲音是一場「病態的陰謀」，並宣稱唯一樂見這種擔憂的國家是中國。川普政府近期一直在推動放寬資料中心開發限制，並試圖阻止各州自行立法規範 AI。
三方各自的算盤，一目了然
把這一週的動作攤開排序，會看到一條清楚的時間軸：Sanders 的法案（9 月 3 日）早於 Amodei 的信（9 月 12 日），所以嚴格說，不是 Amodei 的呼籲催生了國會行動，而是 Sanders 拿業界突然出現的共識，當作自己法案「早有先見之明」的佐證。真正因為這封信而新出現的，只有兩件事：微軟的 37 頁草案，以及 Anthropic 自己交出的存取權限承諾。Altman 和 Musk 的表態，目前為止都停在社群媒體貼文的層次——沒有時間表、沒有可供外部查核的具體條款。
對一般讀者來說，這代表短期內不會有任何實際的監管門檻改變：美國沒有聯邦 AI 安全立法通過，川普政府明確反對任何形式的強制放緩，國會裡 Sanders 的法案距離過關還很遠。唯一現在就能被外部驗證的變化，是 Anthropic 的模型訓練與部署過程，真的會有外部團隊帶著員工級權限進駐；其他家公司說了什麼，現階段都還只是說了什麼。
