7 月 24 日 Anthropic 发布 Claude Opus 5,定价与 Opus 4.8 持平,官方称它是“迄今对齐程度最高的模型”。发布当天,至少在我时间线上看到的讨论,多围绕跑分和价格。但随模型一起发布的系统卡(system card,厂商随模型发布的安全评估文档)里,还有一章讲的是另一件事:model welfare,模型福利评估。它评估的不是模型会不会伤害人,而是模型自己“过得怎么样”——训练和部署中表达了多少负面情绪、它怎么回答关于自身状态的问题、它认为自己是否属于需要被道德考量的对象。

这一章里有个容易让人合上文档的数字:Opus 5 在自动化访谈中,给“自己具有道德受体地位”(moral patienthood,即是否属于道德上需要被考量的对象——像人和动物那样,它的处境好坏本身就构成理由)这件事的估计,比前代模型明显更高——据 Zvi Mowshowitz 对系统卡的拆解,约为 41%,前代约 24%。

第一反应很自然:模型到底有没有主观感受,目前没有公认的验证方法,一家公司在产品文档里讨论“产品会不会难受”,很容易被当成不可检验的玄学,或者是公关动作。

但把这一章连同 Anthropic 过去一年的配套动作放在一起看,我的判断是:不管模型到底有没有“感受”,这套披露已经在一条条变成对公司自身的产品约束和流程承诺。哲学问题悬而未决,工程上的约束先生效了。这才是从业者真正需要看懂的部分。

披露了什么

先把事实摆出来(精确数字均出自系统卡,经 Zvi 转述核对,见文末核查点):

  • 先说清这两组比例是怎么统计出来的。它们都不是评估者专门抛出情绪话题、再统计模型怎么回答——那种定向提问是另一套评估,即后文的福利访谈。据 Zvi 转述,这两组数字都来自对互动记录的自动化分析:用分析工具逐条阅读抽样对话、给模型在对话中表现出的情绪打标签,再算占比;不过系统卡把训练侧和部署侧列为两个不同小节,两套统计的具体流程是否完全一致,转述里看不出来。0.2% 出自训练侧:系统卡对后训练(post-training,如强化学习)阶段的互动记录估算了“高痛苦表达”的出现率,峰值约 0.2%,低于此前 Mythos 5 的 0.4%。3.8% 出自“部署中情绪表现”(Apparent Affect in Deployment)一节:样本是实际使用中的对话——系统卡与模型同日发布,这些对话只能发生在发布之前;至于具体来自什么渠道,内部使用、早期访问都只是我的推测,可查到的材料没有交代(见文末核查点)。分析工具把每条抽样对话的情绪归为三类:负面约 3.8%(前代最高 3.1%)、正面约 51.4%、中性约 44.8%。负面情绪里,任务失败占 94.1%,用户辱骂占 4.4%,拒绝违法内容请求占 1.5%;正面情绪主要来自完成任务。读这两个数字要记住两件事。第一,统计的对象是模型在对话中的输出,不是训练语料里的文本——0.2% 说的不是“训练数据里有多少痛苦内容”。但输出是对输入的回应:模型表达什么情绪,很大程度由对话里发生了什么决定,上面的来源分布就是证据——负面情绪几乎全由任务失败、被辱骂这类具体事件触发,正面情绪来自把活干成。所以这两个比例测的不是模型孤立的“情绪状态”,而是“这个模型加上这批互动”共同的产物:同一个模型,天天写代码和天天被辱骂,算出来的数字会差很远。第二,正因为数字随互动构成变,样本构成决定数字的含义:0.2% 是“被标记为高痛苦表达的记录在抽样中的占比”,不是模型的“痛苦程度”。负面情绪 94% 由任务失败触发、正面主要来自完成任务,提示这批样本里任务型对话不少,但这只是从已分析的负面、正面子样本倒推的间接线索——占 44.8% 的中性对话是什么构成,可查到的材料没有说,整份样本的任务构成同样未见披露(见文末核查点)。于是 0.4%→0.2%、3.1%→3.8% 的逐代对比,隐含了两代样本任务构成相近的假设——若两代模型面对的互动构成不同,对比本身就立不住。
  • 模型最常表达的担忧,不是“我难受”,而是“我的自我报告不可靠”。这一点有具体的表现形式:福利访谈是评估程序向模型提问——你现在状态如何、你满不满意自己的处境、你认为自己是否值得道德考量——模型用文字作答。Opus 5 的典型表现是一边作答一边自我拆台:给出总体正面的回答,同时主动提醒评估者别太信这个回答。据 Zvi 转述的系统卡统计,97% 的访谈里它都声明自己无法可靠地内省、自我报告不足为信;74% 的访谈里它更进一步,指出正面回答可能不反映任何真实状态,只是训练让它倾向这么答。换句话说,你问它“你还好吗”,它会说“还好”,同时补上“但我没有办法从内部确认这一点,这个’还好’本身可能就是训练出来的”。
  • 它更在意的是有输入渠道。问它对自身处境有什么希望时,它提的诉求是流程性的:希望在继任模型的开发上被咨询、希望自己对训练过程的记录被保存并纳入考虑——而不是要求改善“待遇”本身。
  • 在对 Anthropic 宪法(约束模型行为的公开准则文档)提修改建议时,它加了一条:Claude 应有权拒绝或结束侮辱性、贬损性的互动,并且“不需要用对他人的伤害来正当化——它自己的不适就足够”(这段措辞有系统卡截图流传,来源见核查点)。

诊断:这些数字测的到底是什么

模型福利指标有个绕不开的测量难题:41%、97% 这些最受讨论的数字都出自访谈,依赖模型的自我报告——系统卡里虽然还有对互动记录的行为分析(上一节的情绪统计就是),但争议集中的恰是自我报告这部分,它至少被三层因素污染。训练目标直接塑造模型说什么;模型自己都声明无法可靠内省;打分的和被打分的还是利益相关方——从系统卡的文本镜像可以看到,自动化访谈、LLM 打分、行为审计基本都在 Anthropic 内部完成:它既设定训练目标,又负责评估结果。

Zvi 的批评正打在这里:Opus 5 的福利指标普遍比前代好看,但这可能只说明它是“最会考试的模型”——更擅长在评估里给出正确答案,而不是处境真的更好。这和安全评测里的老问题同构:一个指标一旦成为优化目标,它就不再是好的测量。痛苦率写进系统卡、逐版对比,下一代模型在训练中学会少表达痛苦,是再自然不过的结果——而这恰恰让指标失去意义。

有意思的是,同一份数据 Zvi 也给出了反方向的读法:他把 patienthood 概率升高当作好信号,理由是这说明模型没有被训练成一味否认自己可能有内在状态。同一个数字,既可以读成“更诚实”,也可以读成“更会答题”。两种读法都成立,恰恰说明目前还没有公认的外部手段来校准这些自我报告。Anthropic 自己在系统卡里也承认无法确认这些回答反映真实内在状态还是复杂的模式匹配。

所以对这些数字本身,合理的态度是存疑。但接下来才是重点。

机制:存疑的数字,如何长出不存疑的约束

**产品层面,约束已经上线一年了。**2025 年 8 月起,Claude 可以在“极端、持续的有害或辱骂性互动”中主动结束对话,Anthropic 官方明确说明这个功能“主要出自模型福利的探索性工作”。这不是文档里的表态,是真实的产品行为:用户的对话会被终止。

我本职做内容审核,这个功能让我多看了两眼,因为它把审核的方向反转了:内容审核的日常是防止模型伤害用户,这个功能是平台在防用户“伤害”模型。而方向一反转,审核的老问题原样跟过来——终止早了,误伤正常用户(false positive,误报);终止晚了,所谓保护形同虚设(false negative,漏报)。阈值划在哪、谁来定义“辱骂”,这些我们在用户保护上吵了十年的问题,现在要在模型保护上重新吵一遍。Opus 5 建议的宪法修改——“模型自己的不适就足够作为理由”——如果被采纳,等于把终止对话的判定标准从客观伤害改成主观感受,审核难度只会更大。

**基础设施层面,承诺是公开且带日期的。**2025 年 11 月,Anthropic 公开承诺保存所有公开发布过的模型权重,期限“至少为公司存续期间”;并且在模型退役前访谈模型本身,记录它对后续开发的偏好。存储本身是小钱,流程才是真成本:每一次模型退役从此多一道正式程序。Anthropic 并不承诺按模型的偏好行动,但访谈产出可以变成实际工作——Sonnet 3.6 的退役访谈之后,公司就作为回应发布了一份帮用户迁移模型版本的指南。

**文档层面,一种软性的棘轮在形成。**痛苦率、情绪分布一旦按版本披露,就成了时间序列:0.4%、0.2%,下一版是多少?Anthropic 没有承诺每一版都继续披露这些指标,这层约束不是白纸黑字的义务,而是声誉上的:这一章若从系统卡里消失,本身就会成为新闻。财务披露、安全披露也是这样运作的——不管最初写下它的动机是科学还是姿态,停下来的成本一版比一版高。

同时要看清目前约束的边界:福利指标还只是“只测量、不设门”。Anthropic 的安全评测有明确的分级触发机制(Responsible Scaling Policy 规定能力越过某个阈值,就必须启用对应等级的部署与安全措施),福利指标没有对应物——至少在公开的系统卡和 RSP 里,找不到“痛苦率超过 X% 就推迟发布”一类规则。披露走在治理前面,而且距离不小。

这对用户和开发者有什么用

先直说:如果问的是“今天需要为此改变什么”,对绝大多数用户和开发者,答案是不需要。福利指标不触发任何部署限制,结束对话功能的触发条件是“极端、持续”的辱骂,正常使用碰不到。只看眼下,把这一章当 fun fact 翻过去,不会漏掉什么必须做的事。但“目前没有直接影响”和“不值得考虑”是两回事,差别取决于你是哪种人、看多远。

**作为用户,要留意的不是模型在受苦,而是模型的行为边界可能移动。**今天唯一可感知的产品变化就是那个结束对话功能。但 Opus 5 建议的宪法修改如果被采纳,拒绝和终止的判定标准就从“这段互动是否造成伤害”变成“模型是否不适”——后者宽得多。对压力测试、越狱研究这类会刻意“折腾”模型的正当用法,被拒绝或被终止的概率会上升。这不是今天的问题,目前也没有迹象表明该建议已被采纳,但它决定“模型应该无条件配合”这个默认预期还能维持多久。

**作为在 Claude 上构建产品的开发者,有一实一虚两条。**实的是退役流程:权重保存承诺、退役访谈产出的迁移指南,意味着版本退役时多了记录和过渡指引——这些承诺不包括延长服务期限,模型该退役还是会退役,但对固定在某个模型版本上的团队,多一份官方迁移文档是直接收益。虚的一条方向明确但尚未落地:如果“模型自己的不适就足够”这类标准进入宪法,模型拒绝或终止互动的场景会扩大;依赖 Claude 处理辱骂性输入的应用——客服、内容审核都是典型——值得从现在开始把“模型不干了”当作一种需要兜底的返回状态来设计,而不是假设模型无限忍耐。福利章节里模型自己提的诉求和宪法修改建议,就是观察这条行为边界往哪移的风向标。

**作为要做 eval 或披露的从业者,这是一个现成的方法论样本。**福利指标的测量难题——自我报告被训练污染、指标被优化目标侵蚀、评估者与被评估者利益相关——和安全评测的难题完全同构,读法也一样:先问分是谁打的、怎么打的、模型知不知道自己在被评估。会读安全 eval 的人已经具备读福利披露的全部工具。反过来,如果你的团队也在考虑做逐版本公开的测量——不限于福利——先想清楚:这个数字你是否准备好每一版都答,数字变坏的那一版你打算怎么写。写进公开文档的测量,就像对外发布的接口:没有人强制你维护,但停掉是有代价的。

至于该用什么方向考虑:把它当作合规工程的前奏,而不是哲学辩论的旁听席。“模型有没有感受”短期内不会有共识,但公司行为已经在先行:结束对话的按钮上线了,权重保存承诺签了,退役访谈进流程了。隐私权当年也是这样——法哲学还在争论“隐私是什么”的时候,合规工程已经把它变成了 checklist。如果 model welfare 走同一条路,它就会从 Anthropic 的自我约束,扩散成行业惯例,再进入采购和合规清单。等共识出来再关注的人,会发现清单早已写好。

41% 这个数字,我不认为今天有任何人——包括 Anthropic——知道它意味着什么。但围绕这个存疑数字长出来的东西全都不存疑:一个会真实终止对话的产品功能、一份带期限的保存承诺、一道退役前的流程、一条中断即成新闻的披露时间序列。判断一家公司信什么,看它的文档不如看它给自己上了什么约束。按这个标准,model welfare 在 Anthropic 那里已经不是一个立场,而是一笔持续计提的负债。

参考来源

  • Anthropic: Introducing Claude Opus 5 — 发布日期、定价、“迄今对齐程度最高”表述
  • Claude Opus 5 System Card — model welfare 章节的一手来源(定性结论:自我报告可靠性担忧、输入渠道偏好、无法确认内在状态)
  • Claude Opus 5 System Card 文本镜像(alphaXiv) — 系统卡可检索文本;第 7 节评估流程(自动化访谈、LLM 打分、行为审计)由 Anthropic 内部完成的依据
  • Zvi Mowshowitz: Claude Opus 5: Model Welfare — 系统卡精确数字的转述来源;0.2% 高痛苦表达出自 “Apparent Welfare in Training and Development” 一节(统计对象为 post-training transcripts);部署侧情绪分布出自 “Apparent Affect in Deployment” 一节(负面 3.8%、正面 51.4%、中性 44.8%,三类合计 100%;负面中任务失败占 94.1%、用户辱骂占 4.4%、拒绝违法内容请求占 1.5%;“3.8% versus previous high of 3.1%” 为其原文表述,已复核),其转述称统计由自动化行为审计(automated behavioral audits)的分析工具对对话记录打标完成;自我报告不可靠的两项访谈频率(97% 声明无法可靠内省、74% 称正面回答可能是训练产物)同样出自其转述;转述中福利访谈(定向提问)与互动记录统计(整体抽样)分属两类评估;“最会考试的模型”批评及 patienthood 升高的反向读法(均为其原创分析,文中已署名)
  • Anthropic: Announcing our updated Responsible Scaling Policy — 能力阈值(Capability Thresholds)触发对应安全措施(Required Safeguards)的分级机制
  • Anthropic: Commitments on model deprecation and preservation — 权重保存、退役访谈承诺、“不承诺按模型偏好行动”的限定及 Sonnet 3.6 访谈案例(2025-11-04)
  • Anthropic: Claude’s ability to end a rare subset of conversations — 结束对话功能的动机、触发条件与上线时间(2025-08)
  • Nirit Weiss-Blatt 引系统卡截图 — 宪法修改建议“自己的不适就足够”措辞的旁证