一間公司自己檢查自己的 AI 安全，講幾好都似自吹自擂。Anthropic 今次索性開門，請外人入嚟坐低慢慢查。
原文：Anthropic〈An update on independent evaluators〉，2026 年 10 月 15 日 · 讀原文
Anthropic 請咗外部機構 METR 嘅六人團隊入駐公司。
佢哋有公司電腦、有辦公位、入到內部系統，待遇同自家風險評估團隊睇齊。
最關鍵一點：METR 出報告唔使 Anthropic 批准。查到咩，就可以直接公開。
AI 公司自己話自己安全。外人好難信得晒。
METR 六人團隊搬入 Anthropic。拎公司電腦，用內部系統。
員工要當佢哋係同事咁匯報。專門跟進對齊（alignment）風險。
風險評估、事故報告、做法檢討，全部唔使 Anthropic 批准。
AI 愈來愈強。佢安唔安全，好多時得返開發嗰間公司自己知。
公司出份報告，話自己個 AI 通過晒測試。你信唔信？
就好似學生自己改自己份卷，再同老師講「我滿分」。幾叻都好，說服力始終差一截。
傳統做法係請外面公司嚟審計。但審計通常一年一次，查完就走。
AI 變得太快。一年查一次，跟唔上。
Anthropic 今次學銀行嗰套。
銀行有「駐場審查員」。監管人員直接坐喺銀行入面，日日睇住，唔係一年嚟一次。
METR 係一間非牟利機構，專門評估前沿 AI 有幾危險。今次佢哋派咗六個人，長駐 Anthropic。
官方講法係「近乎員工級別嘅待遇」（employee-like access）。
Anthropic 順手公開咗成套制度。評估員按權限分三級。撳吓每一級，睇吓差別喺邊。
級數愈高，評估員愈近距離、愈唔受公司控制。呢套框架，係暫時公開過嘅前沿 AI 實驗室入面，寫得最具體嘅一份。
「唔使批准」先係成件事嘅牙齒。
METR 可以自己出版三種嘢：風險評估、事故報告、做法檢討。Anthropic 冇否決權。
刪減範圍一早寫死，而且好窄。唔可以臨時加理由。
呢次公布同時交代咗其他評估安排。
正喺度審視 Anthropic 八月風險報告入面，關於化學同生物武器嗰一章。
同樣係入駐式評估員。安排早於 9 月 18 日已經公布。
仲喺初步洽談階段。未有定案，唔好當已經成事。
背景仲有兩件事。行政總裁 Dario Amodei 較早前公開承諾要「控制前沿發展嘅步伐」（We Must Pace the Frontier）。Anthropic 亦簽咗白宮嘅《超級智能協議》（Accord on Super Intelligence）。
傳媒普遍將今次公布，睇成嗰個承諾嘅第一個具體落實步驟。
傳媒反應大致中性偏正面。Reuters 講佢「畀咗員工級權限」，TechCrunch 講佢「畀 METR 睇引擎底」。讚嘅，多數讚機制夠具體。
但 Hacker News 上面，質疑嘅聲音集中喺一個字：METR 算唔算真係「獨立」？
點樣睇呢個爭議：機制本身係咪真獨立，未有定論，屬於有爭議嘅講法。但有一點各方大致同意：呢種「長期入駐 + 出版唔使批准」嘅安排，行前咗一步，亦會推高其他實驗室要跟嘅標準。
METR 寫好一份批評 Anthropic 嘅報告。出街之前，要唔要 Anthropic 批准？
一句講晒：AI 安全唔再齋靠公司自己講。Anthropic 開咗道門，請外人坐入嚟睇住；值唔值得信，就睇 METR 之後出嘅報告，有幾辣。