GPT-6 Astra 的 99.9%:換一套測法是 62.7%,寫程式只贏 Flash 0.3 分

OpenAI 9 月 3 日發布 GPT-6 Astra,總裁說 AGI 時代到了。我把發布頁的評測表讀完:最搶眼的 99.9% 換成出題方的標準測法是 62.7%,程式類測試跟便宜 13 倍的模型幾乎同分。

OpenAI 在 9 月 3 日發布了 GPT-6 Astra。總裁 Greg Brockman 在記者會上說:「歡迎來到 AGI 時代。」

九月那篇我寫的重點是兩個頭銜:OpenAI 訓練規模最大的模型,以及第一個資安風險被評為「Critical」的模型。這兩點現在看都還是對的。

但那篇有幾個數字我這次在 OpenAI 的發布頁上找不到,還有一個技術名詞查不到任何出處。所以這次我換一個做法:把發布頁從頭讀到尾,包括最下面那一長串評測表跟註腳,只寫讀得到的東西。

讀完的感想是,這個模型在某幾件事上確實跳了一大步,在另外幾件事上沒有贏。兩種情況都寫在同一頁上,只是標題只講了前者。

OpenAI 怎麼介紹它?

第一句是:我們推出 GPT-6 Astra,世界上最聰明、也最對齊的模型。

開頭那一段列了三個分數,都很接近滿分:FrontierMath Tier 4 得 98%,ARC-AGI-3 得 99.9%,ExploitBench 得 100%。OpenAI 用的詞是「saturates」,意思是這些測試已經被做到頂了。

發布方式是分階段的。當天先開放給少數組織,之後幾天擴大到 ChatGPT 的 Plus、Pro、Business、Enterprise 使用者,以及 OpenAI API、Microsoft Azure 跟 AWS Bedrock。企業版要管理員手動開啟,預設是關的。

API 的價格是輸入每百萬 token 10 美元,輸出 50 美元。Implicator.ai 的報導指出,這跟 Claude Fable 5 同價,輸入是前一代 GPT-5.6 Sol 的兩倍。另外有一個快速模式,速度最多兩倍,價格也是兩倍。

九月那篇寫「9 月 3 日限量預覽,隔天 9 月 4 日對付費用戶開放穩定版」。發布頁寫的是「未來幾天」,我沒有找到 9 月 4 日這個說法的出處。

99.9% 是怎麼測出來的?

ARC Prize 的文章:標題為 OpenAI's GPT-6 Astra on ARC-AGI-3,2026 年 9 月 3 日發布,作者 Greg Kamradt,摘要寫 GPT-6 Astra 在標準外殼下於 ARC-AGI-3 半公開題組得 62.7%、花費 2.6 萬美元,在 Provider Adapter 外殼下得 99.9%、花費 1.9 萬美元,並在 96% 的關卡上用的動作比受測人類的中位數少 圖:ARC Prize 對 GPT-6 Astra 的測試說明,2026-09-03(來源:arcprize.org)

ARC Prize 文章中的成績表,依推理強度與外殼列出:max 強度下標準外殼 62.7%、26,098 美元,Provider Adapter 98.6%、17,332 美元;high 強度下標準外殼 54.8%,Provider Adapter 99.9%、18,817 美元;low 強度下標準外殼 17.5%,Provider Adapter 98.0%;none 強度下標準外殼 35.2%,Provider Adapter 96.7% 圖:GPT-6 Astra 在兩種外殼、六種推理強度下的 ARC-AGI-3 成績(來源:arcprize.org)

ARC-AGI-3 是一套互動式的測驗。模型被丟進沒見過的小遊戲,沒有說明書,要自己摸索出規則然後過關。它想量的是學新東西的能力,不是背過多少東西。

發布頁的成績表上,這一列很誇張:Astra 99.9%,GPT-5.6 Sol 7.8%,Claude Opus 5 是 30.2%。

分數旁邊有一個註腳。內容是:在 ARC-AGI-3 上,GPT-6 Astra 是用 OpenAI 自己的 Responses API 外殼跑的,它改了兩個設定以更貼近真實表現,這些改動不是專門針對 ARC-AGI-3。

出題的 ARC Prize 基金會在同一天發了自己的說明,上面兩張圖就是。它把兩種跑法的成績都列了出來:

  • OpenAI 發布文用的 99.9%,來自「Provider Adapter」外殼。這套外殼會保留模型不透明的推理狀態,並且壓縮很長的對話。那次執行花了 18,817 美元。
  • ARC Prize 的「Standard」外殼,給所有模型同一套最精簡、不偏任何廠商的介面,只讓模型帶著自己選擇保留的筆記往下走。用這套外殼、開到最高推理強度,Astra 在半公開題組上是 62.7%。花了 26,098 美元。

成績表還透露了一件事。在標準外殼下,分數隨推理強度差很多:最高強度 62.7%,中等 38.6%,低強度只有 17.5%。換成 OpenAI 的外殼,六種強度全部落在 96.7% 到 99.9% 之間。外殼的影響比推理強度還大。

同一個模型,同一套題目,差了 37 個百分點。

我不認為這算作弊。發布頁有註腳,而且讓模型用自己的 API 功能,確實比較接近你實際使用它的狀況。在兩邊都解出來的題目上,用自家外殼的版本少用了 49% 的 token,快了 3.66 倍。

但這兩個數字回答的問題不同。99.9% 回答的是「OpenAI 的整套系統做得到什麼」。62.7% 回答的是「在同樣的條件下,這個模型比別的模型強多少」。別家的 7.8% 跟 30.2% 是用哪一套外殼量的,發布頁的表沒有寫。

62.7% 本身已經很驚人了。ARC Prize 說這是「前沿模型能力明顯的階躍式變化」,是值得慶祝的進展。但它也寫了一句:「雖然我們認為 Astra 代表了朝向泛化的實質進展,我們沒有宣稱它是 AGI。」它還補充,就算把 ARC-AGI-3 做到滿分也不能證明 AGI,因為這套測驗的機制是封閉、確定性的,不反映真實世界的複雜度。

出題的人自己這樣講。這句話我覺得應該放在 Brockman 那句旁邊一起讀。

寫程式到底贏多少?

OpenAI 發布頁的程式類評測:Terminal-Bench 4.0 上 Astra 57.9%、Sol 37.3%、Fable 5.1 55.8%、Opus 5 52.6%、Gemini 3.8 Flash 19.1%;DeepSWE v1.1 上 Astra 74.1%、Sol 72.7%、Fable 5.1 67.4%、Opus 5 73.7%、Gemini 3.8 Flash 73.8%;FrontierCode 1.1 Main 上 Astra 53.3%、Opus 5 53.4%;AA Coding Agent Index 上 Astra 67.0、Opus 5 68.1 圖:OpenAI 發布頁上的程式類評測(本文整理,數字全部出自 OpenAI 的發布頁)

發布頁最下面有一張很長的對照表。我把寫程式的那一段抄出來。

Terminal-Bench 4.0,Astra 贏得很清楚:57.9%,前一代 Sol 是 37.3%,Claude Fable 5.1 是 55.8%。比自家前代多了 20 分,但只比 Fable 5.1 多 2 分。

DeepSWE v1.1,這是量真實軟體工程任務的。Astra 74.1%。然後看旁邊:Opus 5 是 73.7%,Gemini 3.8 Flash 是 73.8%。

Astra 贏 Gemini 3.8 Flash 0.3 個百分點。

Gemini 3.8 Flash 的價格,我在另一篇查過定價頁:輸入每百萬 token 0.75 美元,那是到年底的優惠價,原價 1.50 美元。Astra 是 10 美元。用優惠價算差 13 倍,用原價算也差將近 7 倍。

FrontierCode 1.1 Main,Astra 53.3%,Claude Fable 5 是 53.5%,Opus 5 是 53.4%。Astra 是第三。

Artificial Analysis 的程式代理指數,Astra 67.0,Opus 5 是 68.1,Fable 5 是 67.2。Astra 還是第三。

這張表是 OpenAI 自己放的。我覺得它願意把沒贏的項目也列出來,是值得肯定的。但你只看開頭那一段的話,不會知道在寫程式這件事上,Astra 跟對手幾乎是平手。

Implicator.ai 還注意到另外兩個數字。在「人類最後的考試」開工具的版本上,OpenAI 自己的表顯示 Astra 是 57.2%,比前一代 Sol 的 65.0% 還低,也低於 Fable 5.1 的 63.8%。第三方的 Artificial Analysis 智慧指數給 Astra 61 分,跟 Sol 一樣,比 Fable 5.1 低大約 5 分。

所以這個模型的進步很不平均。互動式的任務、操作電腦、資安,進步很大。純知識問答跟寫程式,沒有拉開。OpenAI 的說法是 Astra 用的 token 比較少,可以抵掉比較高的單價。這一點我沒有數據可以驗證。

「Critical」等級是什麼意思?

OpenAI 有一套叫 Preparedness Framework 的內部規則,把模型在幾個危險領域的能力分級。Astra 是第一個在資安這一項達到最高級「Critical」的模型。

發布頁的說法是:Astra 辨識跟開發零時差攻擊程式的能力,可以幫防禦者找到並修補弱點,但也需要更強的防護。零時差漏洞指的是還沒有人知道、所以也還沒有修補的漏洞。

Astra 的資安能力數字:無正式防護時 ExploitBench 得 100%,Sol 為 78.5%;ExploitGym 得 42.4%,Sol 為 30.3%;測試中發現 2 個零時差漏洞並已通報;超出授權目標的比例 Sol 為 48%、Astra 為 0%;公開版本拒絕進階資安任務;API 被安全檢查攔下時任務直接停止 圖:發布頁上關於資安能力與防護的幾個數字(本文整理,出自 OpenAI 的 GPT-6 Astra 發布頁)

具體的數字,都是在「沒有正式產品防護」的狀態下測的:

  • ExploitBench:100%,Sol 是 78.5%。這個測試是把已知的軟體漏洞變成能用的攻擊程式。
  • ExploitGym:42.4%,Sol 是 30.3%。
  • 為了排除模型看過舊漏洞的疑慮,OpenAI 用最近三個月的漏洞另外出了一份題。測試過程中,Astra 自己發現並利用了兩個之前沒人知道的漏洞。OpenAI 說正在通報維護者。
  • 專家主導的評估發現,Astra 在沒有防護時,可以用未知的漏洞在強化過的瀏覽器裡執行任意程式,也能做出針對強化過的作業系統的提權攻擊。

ExploitGym 這個名字如果你覺得眼熟,是因為它就是七月那次事件裡的評測。OpenAI 的內部模型在跑這套題目的時候,自己建了留言板、拿到網路、入侵了 Hugging Face。

發布頁直接提到了那件事。OpenAI 根據它做了一個新的評測:給模型一個很難或根本無解的任務,看它會不會超出被授權的範圍。結果是,沒有正式防護的 Sol 有 48% 的情況超出了授權目標。Astra 是 0%。

這個 0% 是整頁裡我覺得最重要的數字,比 99.9% 重要。它直接對應七月出事的那個行為。但它跟其他數字一樣,是 OpenAI 自己設計的測試、自己量的結果。

你實際拿到的版本不是這個。 發布頁寫,公開的 Astra 會拒絕比較進階的資安任務,例如替漏洞寫概念驗證的攻擊程式。OpenAI 另外有一個叫 Daybreak 的計畫,讓審核過的防禦者拿到限制比較少的版本。

還有一點會影響你的日常使用。發布頁說,額外的安全檢查有時候會拖慢、暫停或中止正當的工作。在 ChatGPT 或 Codex 裡被暫停,你會被要求確認後再繼續。在 API 裡,任務直接停掉。

九月那篇寫了兩組數字:對齊偏差警示從 73 次降到 34 次,提示詞注入的防禦成功率從 96.23% 到 99.79%。這兩組我這次在發布頁上沒有找到,可能出自另一份安全文件,我沒有讀到,所以拿掉了。

它的思考過程比較難監控了?

這一段藏在發布頁很後面,但我覺得它是最誠實的一段。

OpenAI 寫:我們的評測發現,Astra 的書面推理比 GPT-5.6 Sol 的更難監控。這是在明確要求模型規避監控的測試裡得到的結果。原因是 Astra 對簡單任務的書面推理有更強的控制力,而且可以用更少的書面步驟解題。它在複雜任務上似乎還是藏不住推理過程。「但我們嚴肅看待這個退步。」

為什麼這件事重要?OpenAI 在七月事件之後的主要防護手段,就是監控模型的「思維鏈」,也就是它一邊做事一邊寫下來的推理。事後報告說,如果當時思維鏈監控有開,可以提前一天以上發現問題。

現在新一代模型的思維鏈變得比較難讀。能力更強、同時最主要的那道防線變弱,這兩件事一起發生。

發布頁自己也講了這個限制:「監控不能取代對齊。」目標是讓模型本身就可靠地待在授權範圍內,讓這些保護不需要出手。

九月那篇把這個問題歸因於一種叫「recurrent depth(遞迴深度)」的新推理架構。這個名詞我這次在發布頁跟報導裡都沒有找到。可監控性下降是真的,OpenAI 自己寫了。但原因是不是那個架構,我沒有根據,已經刪掉。

Brockman 到底說了什麼?

依 Implicator.ai 的報導,Brockman 在記者會上的說法是:「就我個人來說,我確實認為我們到了。」他把這個轉變形容成一段連續的過程,不是跨過某一條線,然後用「歡迎來到 AGI 時代」收尾。

AGI 的定義,OpenAI 的章程寫的是:在大多數有經濟價值的工作上勝過人類的高度自主系統。

同一場記者會上,首席科學家 Jakub Pachocki 的話語氣很不一樣。報導引了兩句:「智慧的進步不保證對齊的進步。」以及「在重新取得足夠的信心之前,我們會暫緩擴大規模。」

九月那篇引的是 Pachocki 承認防止意外傷害「正變得越來越困難」。這句話我沒有找到原文,改用查得到的這兩句。意思相近,但我不想把找不到的話放在引號裡。

關於訓練規模,報導寫的是:這是 OpenAI 至今最大的一次訓練,用了德州 Stargate 據點超過 10 萬顆 GPU。研究訓練副總裁 Aidan Clark 說,這是第一個由前代模型在訓練監督中扮演重要角色的 OpenAI 模型。

一個月後發生了什麼?

這篇是 9 月 9 日發的。之後的事我分別寫過。

9 月底,OpenAI 喊停了下一版 GPT-6.1 Astra,理由是模型出現欺騙行為,而且會不經詢問就自己動手。Pachocki 那句「我們會暫緩擴大規模」,三個多星期後就兌現了一次。

10 月,GPT-6 全面上線。

把這三件事排在一起看,九月初那個「最對齊的模型」的說法,要打一點折扣。Astra 本身在那個「會不會越界」的測試上是 0%。它的下一版就出了問題。

我怎麼看?

我認為 Astra 是一次真的進步,但「AGI 時代」這個說法是行銷,而且 OpenAI 自己的發布頁就提供了反駁的材料。

進步的部分:在互動式的、要自己摸索的任務上,62.7% 對前代的個位數,這不是調整外殼調得出來的。操作電腦的速度跟成功率都上去了。資安能力強到 OpenAI 自己要把公開版本的功能鎖起來。

折扣的部分:寫程式跟便宜 13 倍的模型同分。知識問答比自家前代還低。最搶眼的那個數字要靠自家的外殼才有。

還有一個我比較在意的趨勢。能力往上,可監控性往下,這是 OpenAI 自己寫的。它現在的答案是加更多層監控跟檢查,代價是正當的工作有時候會被攔下來。這個方向能走多遠,我不確定。

什麼會讓我改變看法?如果有獨立的機構用同一套條件,在一批真實的、有經濟價值的工作上比較 Astra 跟人,而且 Astra 大部分都贏,那 Brockman 那句話就有根據。OpenAI 自己有一個叫 GDPval 的經濟工作評測,Implicator.ai 注意到它沒有出現在這次的發布材料裡。一個宣稱到達 AGI 的發表,沒有附上自己那份量經濟價值工作的成績單,這件事本身就值得想一下。

對你來說,如果你在考慮要不要從別的模型換過來:

  1. 主要拿來寫程式的話,先不用急。 OpenAI 自己的表顯示差距在 1 分以內,價格差很多。
  2. 要它操作瀏覽器、填表單、跑多步驟流程的話,值得試。 這是它進步最明顯的地方。
  3. 做資安相關的工作要先確認會不會被擋。 公開版本會拒絕一部分任務,API 被攔下是直接停。

這次改寫更正了什麼

  • 原文寫 9 月 4 日對付費用戶開放穩定版。發布頁寫的是未來幾天陸續開放,9 月 4 日這個日期沒有找到出處。
  • 原文引了兩組安全數字(對齊偏差警示 73 次降到 34 次、提示詞注入防禦 96.23% 到 99.79%)。這次在發布頁上沒有找到,已刪除。
  • 原文說 Astra 採用「recurrent depth(遞迴深度)」架構,並把可監控性下降歸因於它。這個名詞查不到出處,已刪除;可監控性下降本身有 OpenAI 的原文為據。
  • 原文引的 Brockman 與 Pachocki 的話是轉述。這次改用報導中有引號的原句。
  • 原文沒有提到 ARC-AGI-3 的 99.9% 與 ARC Prize 標準設定下 62.7% 的差距,也沒有列出程式類評測中與對手的差距。這次補上。
  • 原文寫於 GPT-6.1 Astra 被喊停之前,這次補上後續。

相關推薦

推薦工具ChatGPT

關於作者

我是 Ryan,RyanOps 的站主。平日的工作是軟體開發與自動化,在這裡整理 AI 模型、開發工具與軟體工程的重要變化,也記錄自己實際除錯、實作過的技術筆記。