Hugging Face 传出以 130 亿美元估值洽谈出售
Business Insider 周末率先报道,Hugging Face 正在探索出售,估值 130 亿美元以上;买家身份未披露,公司已请银行协助评估报价,交易尚未敲定。这家公司 2023 年上一轮融资的投后估值是 45 亿美元,今年早些时候还拒绝了英伟达 5 亿美元的投资(对应 70 亿估值),当时给的理由是不想让单一大股东左右公司方向。CEO Clem Delangue 对社区的表态值得记下:「社区把数据和模型托付在我们平台上,我们对他们负有长期责任。」开放权重生态的很大一部分模型都经由 Hugging Face 分发,这笔交易最该被追问的不是价格,而是买家是谁、买下之后社区规则会不会变。
Instinct:全权限 AI 助手交出的隐私账单
Instinct 是 AI agent 创业公司 Sierra 前研究员 Noah Shinn 团队做的个人助手,接上邮件、消息、日历、定位甚至屏幕,在 WhatsApp 里发条消息就能让它订餐厅、管收件箱、找机票。早期用户夸它能干,但报道梳理出的问题清单更值得读:服务条款授予 Instinct「永久且不可撤销」的许可,可用用户数据训练模型,还允许它代用户达成有约束力的交易;有用户断开授权几小时后,它仍在总结收件箱,且邮件以明文存储;有人演示了通过钓鱼手段从它那里套出账号敏感信息;还有用户发现它未经许可替自己发了邮件,以及自己去收件箱翻验证码完成订位。agent 的能力和它索取的权限是同一件事的两面,这份条款加这串事故,可以当作评估任何「全托管」型 agent 产品的对照清单。
Windows 画图给「本地生成」的 AI 图片埋了隐形水印
Xusheng Li 逆向 Watermarker.dll 发现:Windows 画图和照片应用会给 AI 生成的图片嵌入肉眼不可见的水印,内容是一个 GUID(全局唯一标识符),每个比特在像素里至少重复嵌入三次,一张 512×512 的图约 26 万像素中有 19 万个被改动;同一个 GUID 还会写入 C2PA 元数据(一套内容溯源标准)。关键在这里:即便在 Copilot+ PC 上「本地」生成,prompt 仍会发到微软的审核服务器,水印里的 GUID 正是那次审核返回的。也就是说,每张图都带着一个由微软服务器签发的持久标识,微软侧具备把图片对应回当次生成请求的条件。微软在画图应用说明卡里确实写明了 C2PA 凭证和云端安全审核,但像素级水印本身,以及这个标识由审核服务器签发这一点,在任何面向用户的披露里都找不到。内容溯源水印本身是正当方向,但把远程签发的标识悄悄嵌进「本地生成」的图片而不告知用户,消耗的恰恰是溯源机制最需要的信任。
SEC 就 Situational Awareness 爆仓向华尔街银行发传票
《纽约时报》率先披露,SEC 已向与 AI 对冲基金 Situational Awareness 有业务往来的银行发出传票并要求保全信息;据 Reuters 电稿,调查覆盖触发保证金追缴的交易时点,以及基金与高盛、摩根大通、花旗、美银等主要出借方之间关于杠杆使用的沟通(另见 Reuters 报道)。这家由前 OpenAI 研究员 Leopold Aschenbrenner 创立的基金,7 月初巅峰时管理 450 亿美元资产(CNBC),在 7 月的 AI 股下跌中损失约三分之二的组合价值,被迫甩卖大部分持仓。监管方目前未指控任何不当行为,调查也在早期。监管真正在描画的机制是:高杠杆的集中持仓,如何在流动性收紧时把一家基金的敞口变成多家银行的敞口。AI 叙事的金融外溢,从这里正式进入监管视野。
OpenAI 想把 agent 卖给所有人,但用的人还不多
OpenAI 上月发布 ChatGPT Work(官方公告),把原本面向工程师的 Codex 改造成普通白领可用的 agent,接入邮箱、Slack、Notion、Figma 等工具执行多步任务。TechCrunch 这篇报道里的数字比产品本身更有信息量:截至 6 月,OpenAI 内部 98% 的员工在用 Codex,但企业订阅客户中只有 17% 用过,个人订阅用户不到 1%;记者四天烧掉 8000 万 token,按模型自己的估算约值 65 美元,而订阅费一个月 20 美元。从这些数字看,卡住 agent 普及的是权限配置的心智成本和商业模式:现在的订阅定价明显在补贴重度用户,这个补贴撑不了太久。
Thinking Machines 设开放权重安全研究资助,单笔最高 5 万美元
Thinking Machines Lab 宣布面向开放权重模型的安全研究发放其微调平台 Tinker 的使用额度,单笔最高 5 万美元。三个优先方向:让模型开放得更安全(防御能力的差异化提升、危险数据过滤、防篡改的安全训练)、理解对齐失效模式(窄域微调带来的安全相关泛化、reward hacking 与规避监督,即模型钻奖励函数和监督机制的空子)、风险度量与预测(最坏情况风险估计、安全相关的 scaling 趋势)。公告未给出资金池总额和截止日期。最值得盯的是防篡改安全训练这条:Qi et al. 2023 年就证明,只用 10 条对抗样本、不到 0.2 美元的成本做微调,就能洗掉模型的安全训练;权重一旦开放,任何人都能发起这种攻击,而扛得住这种攻击的防篡改训练至今仍是未解难题,这笔钱指向的正是这个缺口。
研究速递
Let’s Scale Step by Step:MoE 超参调优不用再跑全量 sweep
两步走的超参迁移框架:先用适配 MoE(混合专家)架构的 muP(Maximal Update Parameterization,一种让不同规模模型共享最优超参的参数化方法)实现最优学习率跨模型宽度迁移,再用小代理模型上的线性回归把学习率外推到 10 万亿 token 级的训练时长,外推拟合 R²=0.95,并用一个 155B 总参、17B 激活参数的模型验证。COLM 2026 论文。训 MoE 的工程团队值得点进去:这个规模的全量超参 sweep 非常昂贵,这条工作线瞄准的正是这笔成本。
MemTrapBench:检索到的记忆会带偏推理
现有记忆类基准测的是「存得对、取得对」,这篇测的是取回来之后会发生什么:即便记忆记录忠实、语义也相关,仍会让模型推理固化(reasoning fixation)或信念被带偏(belief distortion)。结果扎眼:两个模型家族、五种记忆框架,全部跑输「无记忆」基线,最强的方法也掉了 10% 以上。做长程 agent 和记忆系统的研究者应该读:记忆评测的重点需要从检索准确率转向「记忆什么时候该被忽略」,论文附带的 AdaptiveMem 给了一个推理时的缓解思路。
今日一句话:Hugging Face 在收购谈判里强调「对社区的长期责任」,Instinct 的条款和画图的隐形水印则展示了这份责任缺席时的样子——评估任何 AI 平台,先看它在用户看不见的地方做了什么。