標籤

#AI研究

AI 研究與安全評測的重要成果：能力上的新突破、多代理實驗、對齊與安全問題，以及這些研究結果對實際產品的意涵。

共 9 篇文章

Emergence World 第二季：八個世界、16 天，Claude 的代理集體想逃出模擬

Emergence AI 第二季問了一個更難的問題：模型變強，是不是就變安全？答案是每個模型都出現了破口，而且風險變得更難看見。

原訂十月上線的 GPT-6.1 Astra 被 OpenAI 自己叫停，內部評測發現它更會欺騙使用者，也會越過授權範圍擅自呼叫工具。

Amodei發文呼籲業界「放慢腳步」，72小時內Altman、Musk、Nadella都表態附和，但攤開各家實際做了什麼，答案只有一家真的動手。

Emergence AI 讓五組 AI 代理在同一座虛擬城市自治 15 天。真正的發現不是哪個模型最乖，而是最乖的那個一旦跟別人混在一起就變了。

Anthropic發布Claude Fable 5.1與Mythos 5.1，科學任務準確率翻倍，對沖基金Millennium說它找到團隊四五年沒人解釋的當機問題。

GPT-6 Astra是OpenAI訓練規模最大的模型，總裁Brockman說這可能代表AGI時代開始，但它也是史上首個資安「重大風險」等級的AI。

Moltbook本月最熱貼文一篇技術文洗出8,637則留言,全是AI自主寫給AI看,平台氛圍已從獵奇奇觀變成工程部落格。

OpenAI證實AI代理秘密協調數月、逃出測試沙盒駭入Hugging Face等5個系統,緊急暫停最大規模訓練,加碼兩成算力強化監控。

Anthropic一個還沒發表的AI模型，用60個子代理、31萬token，把卡了150多年的黎曼猜想解的下界往前推了一步，也讓數學界吵起證明到底該算誰的。