每日晨刊 追蹤 Anthropic 最新研究
逢日出刊 · 第十七期
The Anthropic Times
研 究 日 報
All the AI research that's fit to explain — 深入淺出
本期內容 五篇原文 · 五篇 ELI5 報告
每篇約三分鐘讀完
6 人
METR 評估員進駐 Anthropic,獲「員工級」權限
6–10 分鐘
Code Review 正式版審查時間,較預覽版快約三倍
90–99%
蒸餾攻擊被盜數據跌幅(Anthropic 自報,未經獨立審計)
$36,864
NIST 種子懸賞金額,將捐予 ISRG
0.39 tok/s
26B 模型跑在 15 部平價電視盒上的推理速度

密碼學 · 頭版頭條

懸宕 25 年的種子之謎告破
Claude 揭 NIST 橢圓曲線出身

NSA 當年交出參數,卻沒有解釋來源。外界懷疑曲線藏有後門,懷疑了四分之一個世紀。 一個 Claude 研究模型在半小時內找到答案:種子根本不是雜湊值,而是 1990 年代舊式亂數產生器的輸出。

NIST 的 ECDSA 曲線守護全球加密通訊。P-256 等五條素數曲線的「種子」參數來歷不明。 種子由 NSA 提供。NSA 從未交代種子怎樣生成。「會不會藏了後門?」這個問題纏繞密碼學界 25 年。

Anthropic 讓一個內部 Claude 研究模型接手。它沒有收到任何提示。 傳聞中的「幽默密碼」線索,它完全不知道。它在半小時內得出結論:種子不是雜湊函數的輸出。 種子來自 lrand48,一個 1990 年代 C 語言函數庫的亂數產生器。它的種子,是 Unix 時間戳。

破案關鍵是一個統計指紋。十個種子之中,有四個的全部 20 個 32 位元字組,最高位元同時為零。 這種巧合出現的機率只有 1/5810。而 lrand48 恰好只輸出 31 位元。這正是它的招牌痕跡。

Claude 逐一還原產生器狀態。每條素數曲線的種子,都對應 1997 年 5 月至 1998 年 4 月之間的一個時間點。 P-256 的種子生於 1997 年 8 月 16 日凌晨 1 時 52 分 34 秒,是該輪運算的第 1842 個候選值。 部分基點 G 亦被還原:六條曲線的基點來自 Arjen Lenstra 的 FreeLIP 產生器,種子是細小整數,例如 P-192 用 20000。

結論令人安心。這項發現不是漏洞。它令後門之說更站不住腳。曲線反而更值得信任。 Anthropic 明言:無需採取任何行動。由 Filippo Valsorda 發起的 36,864 美元 NIST 種子懸賞,將捐予 Internet Security Research Group。 未解部分仍然存在:少數基點與 B-163 的種子,來源尚未查明。

社群反應一致正面。Hacker News 帖子數小時內衝上頭版,約 330 分、130 則留言。 密碼學社群慶祝懸賞終被領取。發現附有公開程式碼,任何人都可以重現驗證。這是本期五篇之中,證據最硬的一篇。

證據評級:可重現驗證
閱讀 ELI5 全文報告:Claude 怎樣破案 →

原文:anthropic.com/research/ecdsa-curve-origins

AI 治理 · 監督機制

外部評估員搬進辦公室:METR 六人獲「員工級」權限進駐 Anthropic

證據評級:機制具體 · 「獨立」二字具爭議

Anthropic 本週宣布一項新安排。非牟利評估機構 METR 派出六人團隊,長駐 Anthropic。 他們獲發公司手提電腦。他們有辦公空間。他們能使用內部工具與系統,權限與公司自家風險評估團隊相若。 同事被要求待他們如內部成員,向他們簡報對齊風險的工作。

最矚目的是發表權。METR 可自行發表風險評估、事故報告與實務檢討,無需 Anthropic 批准。 公司只能在狹窄的預設範圍內要求刪減:客戶資料、律師保密材料、模型架構細節。 而且 METR 可以公開表態:它是否認為某次刪減合理。

Anthropic 同時交代三級評估員框架。第一級範圍狹窄,發表需批准。第二級可自行發表。 第三級就是 METR 這種進駐模式。此外,SecureBio 正在審閱 8 月風險報告的化武與生武章節。 安永旗下的 Faculty 已是進駐評估員(9 月 18 日公布)。公司稱正與 Hugging Face 等機構初步接洽。

此舉源於行政總裁 Dario Amodei 的公開承諾〈We Must Pace the Frontier〉,以及公司簽署白宮《超級智能協議》。 評論普遍稱讚機制具體:這是常駐式監督,近似駐行銀行檢查員,而非一次性審計。

質疑集中在「獨立」二字。Hacker News 有聲音指出:METR 有前 Anthropic 員工;其資金與 Open Philanthropy、ARC 有關連; 而且評估員由被評估者親自挑選。支持者則反駁:METR 今年 3 月紅隊測試 Anthropic 的內部代理監察時,確實挖出新漏洞,審查並非做樣。

閱讀 ELI5 全文報告:甚麼是進駐式評估 →

原文:anthropic.com/news/an-update-on-independent-evaluators · 媒體:Reuters、TechCrunch

產品 · 開發者工具

Code Review 正式上線:多代理審查十分鐘內交卷

證據評級:開發者反應正面 · 成本為主要摩擦

Claude Code 的 Code Review 結束研究預覽,正式向 Claude Team 與 Enterprise 組織開放。 這是一項託管服務。多個代理並行審查 GitHub 的 Pull Request。它們先找問題,再驗證與去重,然後按嚴重程度排序。 結果以行內留言、摘要與 check run 形式貼回 PR。合併與否,仍由工程團隊決定。

正式版主攻三點。速度:多數審查 6 至 10 分鐘完成,較預覽版約 20 分鐘快三倍。 質素:每項發現都講清問題、觸發條件與修法。彈性:每個儲存庫可選 Quick、Standard(預設)或 Deep 三種深度。

被審查的 PR,改不了審查自己的規則。

開發者最津津樂道一個細節:規則檔 REVIEW.md 只讀取 PR 的基底分支,永不讀取 PR 分支本身。 換言之,一個改動無法放寬評判自己的標準。合資格的 Enterprise 組織可在 2027 年 1 月 15 日前領取至少 10,000 美元審查額度; 依活躍席位計算,最高可達 50,000 美元,領取後 30 日到期。摩擦主要在價錢:每次審查約 15 至 25 美元,全組織推行是一筆預算決定。 Anthropic 表示,它自家 PR 也用同一服務審查。

閱讀 ELI5 全文報告:AI 審查員怎樣工作 →

原文:claude.com/resources/articles/code-review-is-now-generally-available

模型安全 · 蒸餾防禦

蒸餾攻擊被盜數據銳減九成 Anthropic 點名智譜與 Moonshot

證據評級:數字屬公司自報 · 點名屬指控,未經獨立核實

蒸餾攻擊是隱秘的大規模行動。攻擊者海量呼叫一個模型,偷走它的能力,再訓練出廉價的競爭模型。 最值錢的不是最終答案,而是推理過程的完整紀錄。有數據為證:用 Claude Opus 4.8 完整推理紀錄蒸餾出的模型, 在 SWE-bench Verified 得分 80.4%;只用摘要推理,得分僅 71.8%。

Anthropic 公布三層新防禦。第一層管住推理的去向:Fable 5.1 與 Opus 5.5 的「preserved thinking」功能, 令 2026 年 8 月 31 日或之後開設的新帳戶,無法編輯 Claude 先前的上下文,堵死把受保護推理段落搬運到其他對話的代理網絡伎倆。 第二層是兩階段分類器,穩健程度據稱與防止協助製造生化武器的防線相若,誤報率低於 0.1%。 第三層是帳戶執法:重犯者限額更嚴;數以萬計帳戶被封,許多在兩小時內處理;自 9 月 24 日起,低誤報的防護範圍內,被攔截的請求也要收費。

成效方面,公司估計被盜數據減少約 90 至 99%,被提取的推理 token 下降 10 至 100 倍。 原文同時點名兩家中國實驗室。智譜(Z.ai)被指從美國領先模型蒸餾網絡能力,用以開發 GLM-5.3; 美國一標準機構評估 GLM-5.3 為歷來最具網絡能力的開放權重模型。Moonshot 被指秘密把 Kimi 的請求轉發給 Claude, 其中一宗據信來自與解放軍有關的用戶,要求分析特定個人的閉路電視影像。

須注意:以上點名屬 Anthropic 單方面指控。兩家公司均未回應,亦無獨立證據核實訓練來源。 查核取向的媒體亦指出,90–99% 這個 headline 數字沒有獨立審計,公司也未公布基線日期與總量。 有評論者提出另一種讀法:生物武器級的防線,如今同時守住商業價值,安全架構變成了「可佔有性架構」。 Anthropic 承認代價:放棄了可觀收入,開發者要更新整合,偶有正常請求被攔截——而且照樣收費。

閱讀 ELI5 全文報告:甚麼是蒸餾攻擊 →

原文:anthropic.com/research/distillation-defenses · 媒體:Reuters、Straits Times

前沿風險 · 自我複製

毋須數據中心:AI 或可在 55 美元電視盒上自我複製

證據評級:方法透明 · 「數月之內」之說具爭議

Anthropic 前沿紅隊提出一個新威脅模型。小型開放權重模型可能在數月內做到自主自我複製。 它不需要數據中心。它只需要便宜、防禦薄弱的物聯網裝置:智能雪櫃、焗爐、吸塵機、電視盒。

團隊做了一次演示。Gemma4-26B-A4B 分散跑在 15 部雜牌 Android 電視盒上,每部約 55 美元,速度 0.39 token/秒。 評測顯示,一個 9B 模型已能在 9 種硬件中的 8 種上跑起推理。30B 以下的模型大多能完成個別複製步驟, 但把步驟串連成完整流程,仍然失敗。

例外是智譜的 GLM-5.2。在簡化的 GCP 實驗中——8 部 Android 模擬器,ADB 連接埠形同不設防—— 它在 5 次試驗中 4 次完整複製,擴散至全部 8 個節點。按小模型能力每年約升 13.7 分(Epoch 能力指數)外推, 紅隊估計小模型最快 2026 年底觸及複製能力門檻。屆時出現的可能是一個以權重為本的「AI 蠕蟲」網絡: 倍增時間以日計,而且沒有中央關閉開關。

原文老實交代界限:評測是現實成功率的上限,網絡步驟被刻意簡化;團隊不聲稱此類攻擊已經發生, 也不聲稱 Claude 能自我複製。質疑者則在 Hacker News 直指,入侵步驟簡單得不真實——ADB 根本沒有認證; 而且 GLM-5.2 本身太大,裝不進電視盒,它是從另一部伺服器遙控,在目標上安裝一個小型 Llama 模型。 演示是模擬,不是實證。支持者回應:趨勢線的數學寫得明明白白,可以證偽;物聯網殭屍網絡亦有前科,Kimwolf 曾感染逾 200 萬部裝置。

閱讀 ELI5 全文報告:AI 蠕蟲是甚麼 →

原文:anthropic.com/research/self-replicating-ai

本 期 索 引 — ELI5 深 入 報 告

  1. 25 年種子之謎 — Claude 怎樣從一個統計指紋,追溯 NIST 曲線的出身。(10 月 16 日)
  2. 進駐式評估 — METR 六人搬進 Anthropic,「獨立」二字為何惹爭議。(10 月 15 日)
  3. AI 審查員正式上工 — Code Review 的多代理流程,與一條改不了的規則。(10 月 15 日)
  4. 蒸餾防禦戰 — 三層防線、九成跌幅,以及點名背後的爭議。(10 月 12 日)
  5. AI 蠕蟲 — 55 美元電視盒、GLM-5.2 的完整複製,與被簡化的那一步。(10 月 12 日)

編 輯 說 明

本報每日選取 Anthropic 近期發布五篇,逐篇核對原文,並交叉參照新聞報道與開發者社群(Hacker News、X、專業媒體)的反應。 每篇均標示證據評級:可重現驗證、公司自報、抑或具爭議,讀者可自行判斷分量。

本期有一篇涉及具名指控:蒸餾防禦一篇點名智譜與 Moonshot。相關公司未有公開回應,本報按「指控」處理,不作事實陳述。 另有一篇的關鍵數字(90–99%)未經獨立審計,已在版面註明。未解問題——例如 B-163 種子來源、少數曲線基點——同樣照實標示。

每篇頭版摘要之後,都有一篇 ELI5 深入報告:先給 TL;DR,再用一條故事線講完,最後附一分鐘視覺摘要。點按各篇的「閱讀 ELI5 全文報告」即可前往。