AI 治理 · 監督機制
外部評估員搬進辦公室:METR 六人獲「員工級」權限進駐 Anthropic
證據評級:機制具體 · 「獨立」二字具爭議Anthropic 本週宣布一項新安排。非牟利評估機構 METR 派出六人團隊,長駐 Anthropic。 他們獲發公司手提電腦。他們有辦公空間。他們能使用內部工具與系統,權限與公司自家風險評估團隊相若。 同事被要求待他們如內部成員,向他們簡報對齊風險的工作。
最矚目的是發表權。METR 可自行發表風險評估、事故報告與實務檢討,無需 Anthropic 批准。 公司只能在狹窄的預設範圍內要求刪減:客戶資料、律師保密材料、模型架構細節。 而且 METR 可以公開表態:它是否認為某次刪減合理。
Anthropic 同時交代三級評估員框架。第一級範圍狹窄,發表需批准。第二級可自行發表。 第三級就是 METR 這種進駐模式。此外,SecureBio 正在審閱 8 月風險報告的化武與生武章節。 安永旗下的 Faculty 已是進駐評估員(9 月 18 日公布)。公司稱正與 Hugging Face 等機構初步接洽。
此舉源於行政總裁 Dario Amodei 的公開承諾〈We Must Pace the Frontier〉,以及公司簽署白宮《超級智能協議》。 評論普遍稱讚機制具體:這是常駐式監督,近似駐行銀行檢查員,而非一次性審計。
質疑集中在「獨立」二字。Hacker News 有聲音指出:METR 有前 Anthropic 員工;其資金與 Open Philanthropy、ARC 有關連; 而且評估員由被評估者親自挑選。支持者則反駁:METR 今年 3 月紅隊測試 Anthropic 的內部代理監察時,確實挖出新漏洞,審查並非做樣。
原文:anthropic.com/news/an-update-on-independent-evaluators · 媒體:Reuters、TechCrunch