Meta 发布 Muse Wonder 与 Muse Wonder Full

Meta 推出继 Muse Spark 之后的新旗舰 Muse Wonder 和 Muse Wonder Full,主打两项 agent 能力:跨对话记住并调回相关信息(Active Memory)、任务遇阻时换思路、从错误中恢复(Active Focus),通过 Meta Model API 和 Muse Code 提供,没有可下载的权重,公告也没说之后会不会开放。公告页没给具体基准数字,安全评估也只说按其 Meta Superintelligence Scaling Framework 的完整报告「稍后发布」。曾经让任何人下载 Llama 权重的 Meta,这次把最强模型收进 API 和订阅里,又是先发模型、后交安全报告,这两点都值得盯住后续。

论文:模型可以把任意能力加密藏进权重,评测挖不出来

做法是在宿主模型里嵌入一个加密的后门网络,平时完全不激活,输入带上密钥才解密执行;作者在密码学假设下证明,即便拿到全部权重,也难以诱导或解释出这段隐藏计算。微调、权重加噪、梯度搜索触发词、对抗训练这些常规审计手段全部无效。这直接动摇能力评测的核心前提:评测能发现的只是没被刻意藏起来的部分,对抗条件下「没测出来」不等于「没有」。

Agent skill 的跨 session 攻击:上次运行留下的文件成了攻击面

skill 执行后留下的文件、配置、缓存会被后续 session 里的其他 skill 复用,论文归纳出三类攻击——往产物里埋指令、借产物越权读数据、篡改产物污染后续任务结论,在 Codex、Gemini、Claude 上攻击链成功率最高到 61%。提出的防御 SkillRelayGuard 给产物恢复来源信息、执行前做一道顾问式审查,把攻击成功率从 69.5% 压到 10.9%,正常任务完成率保持 87.5%。单次对话内的 prompt injection 已被研究得很充分;按作者的说法,「上一个 session 在磁盘上留了什么」这一面目前基本无人探索。

X-AgentRed:专查「单步合规、组合有害」的红队框架

个人 agent 连着多个服务时,每一步调用都合规,叠加起来却可能造成伤害。X-AgentRed 先构建工具之间「谁的输出满足谁的前置条件」的依赖图,再用执行反馈迭代攻击路径;在四个前沿模型上,发现的有害路径是基线方法 STAC 的 1.77 倍,工具覆盖面是 2.99 倍。

蒸馏防御:不用预设找什么,也能挖出学生模型继承的隐性偏差

「潜意识学习」指蒸馏时学生模型从教师继承了与训练数据内容无关的隐性倾向,此前的检测方法都要先假设知道在找什么。这篇利用一个不对称性:隐性倾向在教师生成的各种数据集上表达一致,任务能力则随数据变化;据此不用任何标签、只分析参数更新就能定位出代表该倾向的权重方向并抑制,任务性能几乎无损。把「必须先知道找什么」这个前提去掉,正是审计蒸馏链路需要的能力;不过论文只在基准测试用的倾向上验证了方法,还没碰过生产环境的蒸馏管线。

AgentValve:agent 自主付款的市场里,怎么防刷出来的信誉

场景是 agent 自主选服务商、自主付款、无人审核:攻击者可以批量伪造身份互刷好评(即女巫攻击)抬高某个服务商的信誉。AgentValve 把信誉记成一张容量有限的信任图,支付必须沿着剩余容量足够的信任路径授权,由智能合约原子化扣减;伪造身份不投入真金白银就撑不起容量,能造成的损害与攻击成本成比例。如果 agent 之间真要在无人审核下互相付款,这类信任机制就是必须先建好的底层。

Brad Smith:洗衣机受到的安全监管比 AI 多,UK 最适合牵头立规

微软总裁 Brad Smith 在 BBC 播客访谈中说,「现在你的洗衣机受到的安全规则都比 AI 多」,超市里每盒牛奶都有安全检验,AI 公司却没有对应监管;他同时明确自愿合规行不通,因为只有「好公司」会遵守。他提的是一揽子具体机制:AI agent 造成破坏后的事故通报义务、新产品上市前由独立政府机构评估、以及系统失控时能暂停或减速的「紧急刹车」。他认为 UK 有 AI Security Institute 的技术积累,且华盛顿对伦敦的接受度高于布鲁塞尔,最适合牵头;这套提案是否进入 UK 立法议程,是接下来的观察点。(另见 TechCrunch)

研究速递

DiffusionART: Efficient, Stable and Scalable Reinforcement of Diffusion Models

扩散模型的 RL 微调此前分两条路线:走反向过程的 Flow-GRPO 信用分配差,走正向过程的 DiffusionNFT 高效但不稳、依赖精调 EMA。这篇指出 NFT 式目标里藏着一股「前向–反向一致性力」,把每个 prompt 的奖励先聚合成统一的改进方向,从设计上消掉这股力;奖励表现与两条基线持平或更好,GPU 时数约为它们的十二分之一,还免去逐任务调 EMA。做扩散或多模态生成 RL 训练的研究者可以直接参考。

S-Space: Exploring Spatial Workspace in Multimodal Language Models

在多模态模型内部找到一个线性子空间:物体 token 的表示在其中沿水平、垂直、距离三个轴编码连续坐标,它是模型自带的而非输入催生的,回答非空间问题时也可读出。因果干预可以只改空间判断、不动其他回答。把「多模态模型会空间推理」这个黑箱观察落到可定位、可编辑的具体表示上,做可解释性或想定向修补空间能力的研究者应该点进去。

Attention Sees, MLP Refuses: Tracing the Attention-to-MLP Safety Pathway in LLMs

把安全行为拆成「识别有害」和「写出拒绝」两步,在 Qwen、Llama、Gemma 共 18 对模型上追踪残差流:有害性信号更多从早期注意力层读出,拒绝文本主要由 MLP 层写入;把下游 MLP 重置回干净值,上游注意力扰动造成的拒绝偏移大半消失。顺带给出结合两路信号的检测器 Sentinel,在越狱和过度拒绝两头都优于单信号方法。做安全可解释性的研究者值得读:拒绝机制从「对齐有效或失效」的整体描述落到了具体计算路径。

今日一句话:后门论文表明,在标准密码学假设下,任意能力都能藏进权重、任何评测都挖不出来。面对刻意隐藏的开发者,「评测没测出来」就不再等于「模型没有」——能力评测只能证伪,不能证清白。