OpenAI 安全报告执笔人辞职:「试错的时代该结束了」

在 OpenAI 工作三年半、为 12 次前沿发布执笔 system card(随模型发布的安全报告)、并参与起草 Preparedness Framework(OpenAI 用来判定模型何时危险到需要额外防护的规则)的 David Robinson 辞职,在《大西洋月刊》发表题为《I Quit OpenAI Because Its Culture Is Broken》的文章:「迭代部署」路线注定周期性出事故,前沿实验室应该像核电站和繁忙机场那样,靠层层冗余和耗时的规划来运转。这是 OpenAI 安全团队近期动荡的延续,此前已有安全研究员被裁、新模型发布被搁置的报道。这封辞职信很难被一笔带过:说流程失守的人,正是过去负责安全报告、参与制定规则的人。

Anthropic 与 Accenture 各投 10 亿美元做「嵌入式评估」

Anthropic 宣布与 Accenture 合作推进嵌入式评估:外部评估人员以接近员工的权限常驻公司内部,可以看模型在训练中成形、追踪构建和部署决策、直接约谈员工,工作覆盖模型评测、红队、对齐评估和防护测试,两家公司各自计划未来五年投入至少 10 亿美元。资金是最微妙的一环:行业还没有现成的出资标准,初期由 Anthropic 直接付钱给 Accenture,等于被评估方给评估方发工资;Anthropic 表示正在与 METR 等非营利机构商谈由对方自筹资金运作的试点。即便如此,这比事后拿 API 跑基准的第三方评测深了一层:评估对象从产出的模型,变成了造模型的过程。

Anthropic 官方指南:怎么用好 Opus 5.5

Anthropic 官方博客的 Opus 5.5 使用指南(作者 Addy Osmani)近日在 Hacker News 上引发热议,要点:一条消息给足完整任务并写清「做完」的标准;删掉「think carefully」这类口头禅,模型本来就会在每次回复前推理;用 CLAUDE.md 划定它该停下来问你、还是自己继续的边界;长任务让它把任务清单写进文件;大型审计和迁移用子 agent 并行。整份指南几乎不谈措辞技巧,谈的全是自主权的边界管理。你调的不是句子,是停机条件。

AWS 回应数据中心抵制潮:不再签保密协议,五年投 10 亿美元

AWS CEO Matt Garman 发文回应美国多地对数据中心的抵制(争议点包括水耗、电价、备用发电机污染,以及用 NDA 保密协议让地方政府在许可敲定前无法向居民披露项目),宣布不再与合作的政府机构签 NDA,同时推出五年 10 亿美元的「Built Together」社区计划:免费社区大学学位,并给 300 多所学校、3 万多户家庭做节能改造。他把水耗和电价批评称作「迷思」,并警告全美酝酿中的 100 多项数据中心暂停令会让美国在竞赛中自毁前程。两点保留:放弃 NDA 只覆盖政府机构,且公告没说既有协议是否终止(微软约半年前宣布同类政策时,连既有 NDA 一并终止了),透明化正在从加分项变成算力扩张的入场券。(另见 TechCrunch)

Stanford HAI:开放权重不等于开源

Stanford HAI 主任 James Landay 撰文区分两个常被混用的概念:开放权重只是「开放分发」,你能下载模型文件,但看不到训练数据、训练代码和构建过程中的决策;真正的开源应对齐 Linux 基金会 Model Openness Framework 的「Open Science」档,把训练代码、训练数据(或可审计的数据说明)和工具链一并放出。他的落点是让大学牵头做全程公开的前沿模型研发。对科研而言要害在可复现性:拿不到数据和训练配方,「模型为什么这样」就无从回答,而这恰是对齐研究最需要回答的问题。

研究速递

Transformers Stop Thinking Too Early, and a Tiny LoRA Fixes It

13 个预训练模型在上下文中追踪引用链(第 N 行引用第 M 行,逐级回溯)时,可靠深度只有 1.4–3.6 行;作者只在某个靠前的层训练一个 rank-8 的 LoRA、其余权重全部冻结,就把 Qwen3-8B 在 24 行链条上的精确准确率从 15.5% 提到 99%,训练更久可达 50 行。机制分析显示这个 LoRA 启动了一场「接力」:每行把自己的链条身份沿中间层传下去,冻结的注意力头顺着接力逐级读得更远——只要一个小小的 adapter 把机制激活,冻结的组件就能自己承担这套计算。做长上下文、可解释性或 post-training 的研究者值得点进去:你的任务里可能也藏着这种一个小 LoRA 就能解锁的「深度浪费」。

今日一句话:OpenAI 的安全报告执笔人用辞职信说内部流程靠不住;两周前,Anthropic 已经给外部评估员发了工牌。一笔合作还谈不上行业转向,但方向是清楚的:从「我说我安全」走向「有人驻场盯着」。