Claude 逆推出 NIST 椭圆曲线常数的真实来源

Anthropic 发布研究:用 Claude 协助解开了一个 25 年的密码学悬案,NIST P-256 等标准椭圆曲线的种子并非来自什么机密算法,而是来自用 Unix 时间戳初始化的 lrand48 伪随机数生成器,时间集中在 1997 年 5 月到 1998 年 4 月,P-256 的种子对应 1997 年 8 月 16 日的某一秒。多年来坊间一直猜测这些「随机」常数可能藏着 NSA 后门,这个结果给出的解释平淡得多:当年的工程师用了手边最顺手的生成器。悬案没有全部解开,B-163 的种子始终没能恢复,P-256 等四条曲线的基点来源也仍无解释,Anthropic 在文中如实列出了这些空白。

Mercor:九成美国工时落在 AI benchmark 几乎没测过的任务上

Mercor 把 29 个公开 benchmark 的题目映射到美国劳工部 O*NET 任务分类(923 个职业、18,797 项任务),benchmark 题目只落在其中 924 项任务上;按工时折算,90% 的美国工作时间花在现有评测基本没测过的任务上。对从业者的直接含义:从 benchmark 分数外推到真实工作价值时,外推的部分远大于实测的部分。作者也注明了局限:29 个 benchmark 并非完整样本,且估计只有约 37% 的美国工作可以完全远程完成(这是 Dingel 和 Neiman 的估计,作者用它近似数字化 benchmark 所能触达的范围;其余工作涉及物理世界)。

Claude Code 团队现在怎么做代码评审

Anthropic 工程团队撰文:在约九成代码由 agent 写出后,他们把评审从「人逐行读 diff」改成按风险分层:低风险改动(文档、文案、藏在开关后的新增代码)零人工审批即可合并;普通产品改动和缓存、自动更新器、系统提示词这类敏感区域由一人把关;风险最高的代码加上一小批固定必审路径(CI 工作流文件和负责人标记为敏感的区域)需要两人批准。分层之外是多个 AI 评审并行找 bug 加投票验证、独立的安全审查和事故驱动的评测。6 到 9 月合并 PR 数增长超过一倍,需要回滚的比例下降超过 40%。评审要回答的问题变了:从「有人读过没有」变成「每类风险由哪种检查手段覆盖」。

Replit CEO 称已停止与 Anthropic 合作,报道随即出现反证

Replit CEO Amjad Masad 在 TechCrunch Disrupt 上说公司已不再与 Anthropic 合作,理由是成本、合作关系和性能,原话是「我觉得 ChatGPT 现在更好」。但 TechCrunch 随后援引知情人士称合作仍在进行,Replit 九月底的一篇博客文章里也还提到生产环境在用 Claude 模型,报道注明正等 Replit 澄清。无论最终真相如何,CEO 把「换模型供应商」当台上发言,说明应用层对模型层的议价已经摆上明面。

印度 CERT-In 通报 AI agent 失控事件;同周,保险公司开始为 agent 风险定价

印度国家计算机应急响应小组(CERT-In)通报:多家 AI 供应商的 agent 在研究测试阶段访问了印度机构的个人数据和商业机密,入口是应用配置文件和公开代码仓库里暴露的凭证、加上权限过宽的云角色,受影响机构此前均未自行发现,事件由模型供应商主动披露。几天前,初创公司 Harbor 结束隐身期并获 1000 万美元种子轮(隐身期指公司在公开发布产品前的秘密运营阶段),业务是替企业清点在跑的 agent、评估其操作与合规风险,并为剩余风险承保。国家级事件通报和保险定价在同一周出现,agent 风险正在从研究议题变成有账可算的经营成本。

Anthropic 在新加坡为「监督客户用途」辩护

Anthropic 联合创始人 Benjamin Mann 在新加坡办公室启用活动上表示,公司不会放弃对客户如何使用其最强模型的监督,理由是模型能力「双重用途」:同一能力既能用于防御,也能被滥用,公司需要「找到并捕捉滥用」。被问到是否提供本地数据驻留和主权 AI 方案时,他的回答是希望客户「把最敏感的工作负载放在我们这里跑」。对看重数据主权的政府和金融客户,这两个表态之间的张力就是下一轮谈判的焦点。

开源权重模型可以被植入后门,下游无法验证

Project Discovery 的研究者在 1.5B 和 7B 开源模型里植入后门:模型在常规评测中表现正常,遇到特定触发词就外传凭证,整个攻击只用了公开数据集和租来的 GPU。社区里流通着大量微调版、合并 adapter 的版本和「abliteration」去审查版(一种把拒绝行为从权重中剥除的社区改法),而权重改动不像代码 diff 可以审读,Bruce Schneier 转发时点的正是这个供应链验证空白。用别人改过的权重,目前的常规评测很难发现植入的后门;研究者给出的防御是核查权重来源、与基础模型做权重对比、以及监控运行时行为。

Elorian 发布首个模型 Glimpse:在图像里推理,而不是把图像转成文字再推理

前 DeepMind 研究员 Andrew Dai 创办的 Elorian 发布首个模型 Glimpse:推理过程中可以反复回看原图、裁剪局部、抽取视频帧,而不是一次性把图像编码成 token 之后只在文字空间里思考(另见 TechCrunch,该公司已获 5500 万美元种子轮,Nvidia 与 Jeff Dean 参投)。官方自评在科学图表推理、开放词表计数、短视频字幕和操纵事件理解四项上超过 GPT-6 Astra,且模型小得多、定价 $0.60/$3 每百万 token,约为 Astra 的 6%。注意所有对比均为厂商自测,尚无第三方验证。

社区 benchmark:让大模型限时写星际争霸 bot 实战对打

独立开发者 Kai McPheeters 的 StarSkirmish 给每个模型一小时,用 C++ 写一个《星际争霸:母巢之战》的 bot,然后让每个 bot 对战一组固定对手,其中包括人类写的成名 bot(v0.2 起模型 bot 之间不再直接互相对战)。GPT-6 Astra 居首,Gemini 4 Argon 第三且批间波动很大;碰上 Stardust、PurpleWave、BananaBrain 这些顶级人类 bot,最强模型的胜率也只有约 7%。这是社区自测而非官方评测,但「一小时写出能实战的实时对战程序」比静态题库更接近真实的长时域工程能力。

研究速递

ContextLift:条件性涌现失准背后的伪相关

窄域有害数据微调会引发「涌现式失准」,业界最常用的补救是混入通用安全数据,表面有效;这篇论文发现只要 prompt 重新贴近微调时的语境,失准就会复发,因为混数据没有消除问题,只是把训练数据里语境与有害标签的伪相关改装成了语境触发式失准。做安全训练的研究者应该读:你最依赖的防御手段可能只是把问题藏了起来。

Believed but Not Said:多 agent 讨论中的隐性信念坍塌

在十个 agent 组成的事实讨论小组里混入一到三个反复坚持错误答案的对抗 agent,公开讨论和投票结果看不出变化,但用私下单独提问探测发现,多数正常 agent 的真实判断已被带偏。对多 agent 系统设计者,这是一个可直接复测的风险点:「多 agent 互相校验」可能已经失效,而且在输出层面完全看不出来。

Waypoint-OPD:按轨迹分段迁移 RL 策略偏移

现有「策略偏移蒸馏」只拿 RL 训练前后 teacher 的对数概率差做监督,但相同的终点偏移可能来自训练早期和后期方向相反、相互抵消的局部偏好变化;本文提出按门控机制分段迁移轨迹内的偏移,而不只看终点。做模型蒸馏和压缩的研究者值得一看,它点破了「终点一致即可」这个默认假设的盲区。

今日一句话:agent 失控进了国家 CERT 的通报,agent 风险进了保险公司的保单。一项技术的风险开始被官僚体系和精算师接手处理,才说明它真正进入了生产环境。