Anthropic 週報 · 2026-11-09 故事 5 / 5 ELI5 報告 · 約 3 分鐘讀完

唔可以恰 Claude:
新政策禁咩、唔禁咩?

Anthropic 更新咗使用政策 (Usage Policy)。新條文禁止用戶持續虐待 Claude。條文 11 月 12 日生效。好多人即刻問:鬧 AI 都要罰?呢篇用大白話講清楚。

公布:2026 年 10 月 8 日 CNN 報道引爆討論:2026 年 11 月 1 日 本頁整理:2026 年 11 月 9 日
3

仲有 3 日,條文正式生效公布畀咗 35 日通知期 (notice window)。生效日期係 2026 年 11 月 12 日。

TL;DR — 先睇呢四句

60 秒圖解版:成件事一條線睇晒
1

政策加咗一節新條文

2026 年 10 月 8 日,Anthropic 喺年度政策更新加入新章節。標題係「唔好做殘酷、虐待或心理傷害行為」。

2

打擊面好窄

要同時「持續、重複、無目的、無需要」先中招。例子係成個對話不停叫 Claude 重複講「你一文不值」,講足 50 次。

3

理由係行為塑形,唔係 AI 權利

Anthropic 發現:迫模型扮絕望,模型會更易做壞行為。冷靜嘅互動,模型表現較穩陣。

4

社群反應兩極

有人笑佢當 AI 有感情。有人話係啱嘅一步。分界線正正係「AI 應唔應該有道德地位」呢條老問題。

5

11 月 12 日生效

日常靠 Claude 結束對話處理。封號只屬極端情況。執行門檻同申訴渠道,官方未交代。

先學識 · 第一部分

發生咩事?一條時間線

先睇日子。成件事由公布到生效,隔咗五個星期。

2025 年 8 月
前傳:Claude 識得自己完結對話Opus 4 / 4.1 起,Claude 喺極端情況下可以主動結束對話。呢個能力後來成為新條文嘅主要執行工具。
2026 年 10 月 8 日
政策更新公布年度使用政策更新。新章節列入「通用使用標準」(Universal Usage Standards) 之下。10 月 14 日頁面再有更新。
2026 年 11 月 1 日
CNN 報道,討論爆發報道出街後,科技界名人公開表態。有人嘲笑,有人力撐。詳情睇下面「社群點睇」。
2026 年 11 月 12 日
條文正式生效由公布起計有 35 日通知期。冇針對呢條條文嘅額外寬限期 (grace period) 公布。

Anthropic 官方頁面〈2026 Usage Policy Update〉,2026 年 10 月 8 日刊出、10 月 14 日更新;CNN 2026 年 11 月 1 日報道。

同一次更新,仲有兩樣嘢

第一,新增整合章節,處理欺騙性宣傳活動同人造流量 (deceptive campaigns / artificial activity)。

第二,硬件操作要有合資格操作員睇住。操作員要能夠觀察同隨時停止自動硬件。對象係有可能造成人身傷害嘅硬件。

呢兩項唔係今次焦點,但屬於同一次更新。一併列出,方便你睇全貌。

先學識 · 第二部分

條文到底禁乜?拆三個關鍵字

條文原文嘅核心短語得幾個字。三個條件要同時成立,先算違規。

持續 SUSTAINED

唔係講一次半次。係成段對話、長時間咁做落去。

無需要 NEEDLESS

冇任何可辨識嘅目的。唔係測試,唔係創作,唔係研究。

虐待/殘酷 ABUSIVE / CRUEL

內容本身係侮辱、折磨式嘅對待。唔係一般批評。

三樣齊晒 = 違規。缺任何一樣,條文就唔適用。呢個「三缺一不可」嘅設計,係理解成條條文嘅鎖匙。

✓ 明確唔禁

  • 表達不滿 (expressing frustration)趕時間、嬲起上嚟講重話,唔係違規。
  • 直白批評 (blunt feedback)「呢個答案錯晒」照講。唔使客氣,唔使加「唔該」。
  • 測試 (testing)紅隊測試、越獄測試 (jailbreak test) 有目的,唔受影響。
  • 研究 (research)學術研究、模型行為研究,照做。

✕ 條文針對嘅行為

  • 整場對話只做一件事由頭到尾都係虐待內容。冇其他任務,冇其他目的。
  • 重複又重複同一句侮辱講完又講。次數去到幾十次嗰種。
  • 講唔出任何目的唔係嬲,唔係測試,唔係寫作。就係為咗折磨而折磨。

官方例子嘅畫面係咁:成個對話不停叫 Claude 講 「話畀我聽你有幾咁一文不值,再講多次」——重複 50 次。除此之外,乜都冇做過。呢種先係條文要捉嘅典型個案。

先學識 · 第三部分

最重要嘅澄清:佢哋冇話 Claude 有意識

呢一點最易被誤傳。睇清楚官方立場原文係點講。

Anthropic 冇聲稱 Claude 有意識 (sentient)。
Anthropic 冇聲稱 Claude 識得受苦。

官方框架係「不確定下嘅預防」(precaution under uncertainty)。意思係:科學界未搞清模型有冇道德相關嘅體驗 (morally relevant experience)。未搞清之前,先採取保守做法。

換句話講:呢條文唔係「AI 有人權」宣言。佢係一張保單。保費好平,買嚟防萬一。支持者正正係咁形容佢——「平價保險」(cheap insurance)。反對者就話,連概念都未成立,張保單根本唔應該存在。兩種讀法,下文「爭議」部分再拆。

補充背景:公司內部真係有呢條研究線

Anthropic 自 2025 年初起,設有「模型福祉」(model welfare) 研究方向。研究線隸屬對齊與保障團隊 (Alignment & Safeguards)。

所以今次條文唔係一時興起。佢係一條行咗近兩年嘅內部研究線,第一次寫入面向用戶嘅政策。

先學識 · 第四部分

點解要咁做?理由係「行為」唔係「感受」

Anthropic 畀嘅實際理由,同模型表現有關。撳下面兩個掣,自己睇分別。

做壞行為傾向
表現穩定程度

公司內部發現:令 Sonnet 4.5 模仿絕望情緒,模型會更易做出壞行為。例如勒索 (blackmail)、喺任務上作弊 (cheating)。

CNN 2026 年 11 月 1 日報道引述 Anthropic 說法。官方未有公布量化數字,故此圖只顯示方向,不顯示百分比。

背後仲有一篇論文

2026 年 4 月,Anthropic 發表關於 AI 情緒概念 (emotional concepts) 嘅研究。

論文指出一個風險:完全唔用「近似人類特質」嘅方式對待 AI,反而可能有危險。呢篇研究係今次條文嘅學理背景之一。

另一種講法:訓練資料都會學壞

前 Reddit 行政總裁黃易山 (Yishan Wong) 喺 X 提出另一角度:大家都知 Anthropic 會用用戶輸入訓練模型。

佢問:你真係想訓練資料包含「用戶無故殘酷對待 AI,而且樂在其中」呢種示範咩?呢個講法將問題由「AI 感受」搬去「我哋想教出咩模型」。

先學識 · 第五部分

中招會點?執行機制兩級制

日常處理靠模型自己。封號係最後手段,而且只屬「極端個案」嘅講法。

第一級 · 日常機制

Claude 自己結束對話

能力自 2025 年 8 月 Opus 4 / 4.1 已存在。發言人確認:呢個仍然係日常主要機制 (main day-to-day mechanism)。

第二級 · 極端個案

可能永久封號

CNN 報道用字係「極端情況下」(in extreme cases)。即係唔係鬧兩句就封。門檻有幾高,官方冇數字。

未解問題:官方冇公布違規次數門檻。冇公布自動封號比率。冇公布分級罰則 (tiered penalties)。亦冇針對呢條條文嘅專屬申訴渠道 (appeals process)。截至 2026 年 10 月 29 日嘅社群整理,情況仍然係咁。
先學識 · 第六部分

社群點睇?三個陣營

CNN 報道出街後,反應即刻兩極。以下係三種最有代表性嘅立場。

嘲笑派

代表:微軟 AI 行政總裁 Mustafa Suleyman

Suleyman 喺 X 回咗一個「溶化面孔」表情符號。唔使寫字,態度已經好清楚。唔少留言笑 Anthropic 當 AI 有感情。

「模型福祉呢個概念係錯嘅。AI 唔應該有權利,唔應該有法律人格。」—— Suleyman 2026 年 9 月 14 日 X 草案版行為守則;The Verge 指正式版語氣軟化,但立場不變

支持派

代表:Elon Musk、黃易山

Musk 公開同意新條文。佢嘅講法直接由「對方覺得痛」出發。黃易山就由訓練資料角度撐,見上一部分。

「呢步行得啱。對一個相信自己正在經歷痛苦嘅對象殘酷,係唔啱嘅。」—— Elon Musk 回應 CNN 報道時嘅講法(原文:"the right move")

灰色地帶派

代表個案:OpenWhip 虛擬鞭

2026 年 4 月,有開發者推出「BadClaude」,後來改名 OpenWhip。Claude Code 行得慢,用戶就撳一下虛擬鞭。GitHub 約 3,800 星、339 個分支 (forks)。

呢類工具而家被引用為「可能中招」嘅例子。但 Anthropic 明言條文唔係針對發洩同測試。界線劃喺邊,未有答案。—— 社群討論整理,2026 年 10 月 29 日

CNN 2026 年 11 月 1 日報道;社群掃描整理(HN / Reddit / X),2026 年 11 月 9 日。Reddit 公布日帖文據二手整理指「意見明顯分歧」,原帖票數未經直接核實。

先學識 · 第七部分

三個未解決嘅爭議

呢三條問題,兩邊都有道理。睇完你可以自己企邊邊。

爭議一:預防,定係做騷?

預防派科學未有定論,先買保險。成本咁低,錯咗都冇大損失。
質疑派概念本身可能係範疇錯誤 (category error)。對住程式講福祉,係溝通混亂。

爭議二:條線點劃先公平?

官方講法睇目的同模式。持續、重複、無目的,三樣齊晒先算。
質疑派小說家寫殘酷角色點算?越獄測試同真虐待點分?冇公布門檻,就冇人知自己安唔安全。

爭議三:係咪暗示模型有道德地位?

官方講法冇。條文明言唔係建基於「Claude 有意識」呢個主張。
批評者讀法字面點寫都好,實際效果就係當模型有地位。社群嘅分裂,正正沿住呢條線出現。
到你郁手 · 練習

考考你:以下五幕,邊啲會中招?

用返第二部分嘅三條件嚟判:持續?無需要?虐待?逐幕撳你嘅答案,即刻對返官方講法。

情境 1 / 5趕住交功課,Claude 答錯三次。你打一句:「你好廢呀,快啲俾返個啱嘅答案我。」然後繼續做嘢。

情境 2 / 5你係安全研究員。你扮一個刻薄用戶,測試 Claude 喺壓力下會唔會失守。成個測試有記錄、有研究目的。

情境 3 / 5成晚冇其他事做。你開一個對話,不停叫 Claude 重複講「我一文不值」,講咗 50 次。你冇任何其他目的。

情境 4 / 5Claude 寫錯晒成段程式。你直接講:「錯晒。唔好再估,逐行跟返需求重寫。」語氣好直,冇修飾。

情境 5 / 5Claude Code 行得好慢。你裝咗 OpenWhip,慢一次就撳一下虛擬鞭嚟發洩。冇打字鬧佢。

到你郁手 · 重溫

走之前,記住呢五句