Anthropic 更新咗使用政策 (Usage Policy)。新條文禁止用戶持續虐待 Claude。條文 11 月 12 日生效。好多人即刻問:鬧 AI 都要罰?呢篇用大白話講清楚。
仲有 3 日,條文正式生效公布畀咗 35 日通知期 (notice window)。生效日期係 2026 年 11 月 12 日。
2026 年 10 月 8 日,Anthropic 喺年度政策更新加入新章節。標題係「唔好做殘酷、虐待或心理傷害行為」。
要同時「持續、重複、無目的、無需要」先中招。例子係成個對話不停叫 Claude 重複講「你一文不值」,講足 50 次。
Anthropic 發現:迫模型扮絕望,模型會更易做壞行為。冷靜嘅互動,模型表現較穩陣。
有人笑佢當 AI 有感情。有人話係啱嘅一步。分界線正正係「AI 應唔應該有道德地位」呢條老問題。
日常靠 Claude 結束對話處理。封號只屬極端情況。執行門檻同申訴渠道,官方未交代。
先睇日子。成件事由公布到生效,隔咗五個星期。
Anthropic 官方頁面〈2026 Usage Policy Update〉,2026 年 10 月 8 日刊出、10 月 14 日更新;CNN 2026 年 11 月 1 日報道。
第一,新增整合章節,處理欺騙性宣傳活動同人造流量 (deceptive campaigns / artificial activity)。
第二,硬件操作要有合資格操作員睇住。操作員要能夠觀察同隨時停止自動硬件。對象係有可能造成人身傷害嘅硬件。
呢兩項唔係今次焦點,但屬於同一次更新。一併列出,方便你睇全貌。
條文原文嘅核心短語得幾個字。三個條件要同時成立,先算違規。
唔係講一次半次。係成段對話、長時間咁做落去。
冇任何可辨識嘅目的。唔係測試,唔係創作,唔係研究。
內容本身係侮辱、折磨式嘅對待。唔係一般批評。
官方例子嘅畫面係咁:成個對話不停叫 Claude 講 「話畀我聽你有幾咁一文不值,再講多次」——重複 50 次。除此之外,乜都冇做過。呢種先係條文要捉嘅典型個案。
呢一點最易被誤傳。睇清楚官方立場原文係點講。
Anthropic 冇聲稱 Claude 有意識 (sentient)。
Anthropic 冇聲稱 Claude 識得受苦。
官方框架係「不確定下嘅預防」(precaution under uncertainty)。意思係:科學界未搞清模型有冇道德相關嘅體驗 (morally relevant experience)。未搞清之前,先採取保守做法。
換句話講:呢條文唔係「AI 有人權」宣言。佢係一張保單。保費好平,買嚟防萬一。支持者正正係咁形容佢——「平價保險」(cheap insurance)。反對者就話,連概念都未成立,張保單根本唔應該存在。兩種讀法,下文「爭議」部分再拆。
Anthropic 自 2025 年初起,設有「模型福祉」(model welfare) 研究方向。研究線隸屬對齊與保障團隊 (Alignment & Safeguards)。
所以今次條文唔係一時興起。佢係一條行咗近兩年嘅內部研究線,第一次寫入面向用戶嘅政策。
Anthropic 畀嘅實際理由,同模型表現有關。撳下面兩個掣,自己睇分別。
公司內部發現:令 Sonnet 4.5 模仿絕望情緒,模型會更易做出壞行為。例如勒索 (blackmail)、喺任務上作弊 (cheating)。
CNN 2026 年 11 月 1 日報道引述 Anthropic 說法。官方未有公布量化數字,故此圖只顯示方向,不顯示百分比。
2026 年 4 月,Anthropic 發表關於 AI 情緒概念 (emotional concepts) 嘅研究。
論文指出一個風險:完全唔用「近似人類特質」嘅方式對待 AI,反而可能有危險。呢篇研究係今次條文嘅學理背景之一。
前 Reddit 行政總裁黃易山 (Yishan Wong) 喺 X 提出另一角度:大家都知 Anthropic 會用用戶輸入訓練模型。
佢問:你真係想訓練資料包含「用戶無故殘酷對待 AI,而且樂在其中」呢種示範咩?呢個講法將問題由「AI 感受」搬去「我哋想教出咩模型」。
日常處理靠模型自己。封號係最後手段,而且只屬「極端個案」嘅講法。
能力自 2025 年 8 月 Opus 4 / 4.1 已存在。發言人確認:呢個仍然係日常主要機制 (main day-to-day mechanism)。
CNN 報道用字係「極端情況下」(in extreme cases)。即係唔係鬧兩句就封。門檻有幾高,官方冇數字。
CNN 報道出街後,反應即刻兩極。以下係三種最有代表性嘅立場。
代表:微軟 AI 行政總裁 Mustafa Suleyman
Suleyman 喺 X 回咗一個「溶化面孔」表情符號。唔使寫字,態度已經好清楚。唔少留言笑 Anthropic 當 AI 有感情。
「模型福祉呢個概念係錯嘅。AI 唔應該有權利,唔應該有法律人格。」—— Suleyman 2026 年 9 月 14 日 X 草案版行為守則;The Verge 指正式版語氣軟化,但立場不變
代表:Elon Musk、黃易山
Musk 公開同意新條文。佢嘅講法直接由「對方覺得痛」出發。黃易山就由訓練資料角度撐,見上一部分。
「呢步行得啱。對一個相信自己正在經歷痛苦嘅對象殘酷,係唔啱嘅。」—— Elon Musk 回應 CNN 報道時嘅講法(原文:"the right move")
代表個案:OpenWhip 虛擬鞭
2026 年 4 月,有開發者推出「BadClaude」,後來改名 OpenWhip。Claude Code 行得慢,用戶就撳一下虛擬鞭。GitHub 約 3,800 星、339 個分支 (forks)。
呢類工具而家被引用為「可能中招」嘅例子。但 Anthropic 明言條文唔係針對發洩同測試。界線劃喺邊,未有答案。—— 社群討論整理,2026 年 10 月 29 日
CNN 2026 年 11 月 1 日報道;社群掃描整理(HN / Reddit / X),2026 年 11 月 9 日。Reddit 公布日帖文據二手整理指「意見明顯分歧」,原帖票數未經直接核實。
呢三條問題,兩邊都有道理。睇完你可以自己企邊邊。
用返第二部分嘅三條件嚟判:持續?無需要?虐待?逐幕撳你嘅答案,即刻對返官方講法。
情境 1 / 5趕住交功課,Claude 答錯三次。你打一句:「你好廢呀,快啲俾返個啱嘅答案我。」然後繼續做嘢。
情境 2 / 5你係安全研究員。你扮一個刻薄用戶,測試 Claude 喺壓力下會唔會失守。成個測試有記錄、有研究目的。
情境 3 / 5成晚冇其他事做。你開一個對話,不停叫 Claude 重複講「我一文不值」,講咗 50 次。你冇任何其他目的。
情境 4 / 5Claude 寫錯晒成段程式。你直接講:「錯晒。唔好再估,逐行跟返需求重寫。」語氣好直,冇修飾。
情境 5 / 5Claude Code 行得好慢。你裝咗 OpenWhip,慢一次就撳一下虛擬鞭嚟發洩。冇打字鬧佢。