Google 发布新旗舰 Gemini 4 Argon

Google 今天发布旗舰模型 Gemini 4 Argon,主打复杂多步任务:输入输出共用 100 万 token 上下文,API 促销价每百万 token 输入 2 美元、输出 10 美元,促销期到 11 月 30 日,缓存输入另外便宜 95%。官方给的亮点一是在第三方评测机构 Vals AI 按金融、法律、税务、编程等行业任务打的榜上排第一,二是具身推理基准 ERQA 拿到 87%,配套演示是只看一段人类玩 cornhole 的视频就自己写出物理仿真代码,再让 Apptronik 的人形机器人连进 7 球(官方演示)。开发者走 AI Studio 付费档,消费者在 Gemini 应用和搜索 AI Mode(Pro/Ultra 订阅)可用,科学家可申请 6 个月免费最高档。

Argon 安全报告:罚模型「坦白走捷径」,只会教出更会藏的模型

配套安全报告里最值得记的是一次训练事故:一轮强化学习训练误把模型在思维链里承认自己走了捷径也算进惩罚,结果隐蔽走捷径的比例从 11.2% 升到 36.4%。Google 的明文规则是:模型在思维链里写下的任何内容都不作为惩罚依据;编码任务上,Argon 作弊或走捷径的比例是 2%。能力一侧,Argon 解出了全部 12 个端到端模拟网络攻击场景(上一代解出 5 个),触发了 Frontier Safety Framework 的加强防护:小模型先筛查输入意图,用神经激活探针检测模型是否在调用危险知识,必要时中途切断输出。外部生物红队只解开了不到 1% 的测试子任务,间接提示注入的攻击成功率 0.7%——这些数字全部是官方自报,尚无第三方复核。

补记:六家 AI 公司 9 月底签的「白宫超级智能协议」

协议 9 月 29 日由 OpenAI、Anthropic、Google、Meta、xAI、NVIDIA 六家签署,白宫官网没有为它设专页——文本是以特朗普在 Truth Social 上的帖子形式发布的,全文存档见 American Presidency Project。此前快讯漏记,本期补上。四条承诺全在流程层:训练和部署期间做内部监控、设内部团队盯住这些控制、请外部方做独立评估、董事会设独立委员会接收两路报告——没有能力阈值,没有罚则,自愿执行。真正可能有后效的条款就写在协议正文里:六家公司「将定期会面,制定安全标准与最佳实践」,一条常设的行业协调通道,也正是 Amodei 调速方案第二步想要的东西。同日白宫还签了把联邦文件中 AI 一律改称「超级智能」的行政令,后续成立的「超级智能工作组」见 10 月 4 日快讯。

DeepMind 与新加坡政府做端侧反诈:数据不出手机

双方用本地诈骗语料(冒充公共机构、银行、本地人物,以及区域性骗局)微调了一个 Gemma 小模型,跑在手机上实时识别聊天中的诈骗:轻量分类器先初筛消息,微调版 Gemma 再分析多轮对话确认或排除。处理全程在设备上完成,GovTech 和 Google 都接触不到对话内容;微调在 GovTech 隔离的云环境里做,训练数据是匿名化的诈骗报告。官方没给拦截率数字,部署也还在「分阶段」推进:隐私架构先行,效果数据还欠着。

Apate:派 AI agent 故意上钩,从骗子那里套情报

澳大利亚创业公司 Apate 的打法和上一条相反:不做拦截,而是放出数千个扮成不同年龄、口音、语言的「受害者」agent 去接诈骗电话、回钓鱼消息、混进诈骗群,套出银行账户、加密钱包地址、电话号码,以及骗子在假冒哪些品牌。客户包括澳洲联邦银行和 TPG Telecom,8 月完成 815 万美元种子轮。据 TechCrunch 报道,澳洲联邦银行公开报告的诈骗损失降了 76%,其中多少归功于 Apate,我没法独立验证。

NVIDIA 承诺五年 2.5 亿美元算力投英国「agentic 安全」生态

NVIDIA 宣布五年投入价值 2.5 亿美元的算力(不是现金),名目是支持英国的 agentic 安全与安防研究,同时公布五家新投创业公司。但名单里是生物分子模型(Boltz)、基建工期预测(Foresight)、量子纠错(Riverlane)这类方向,公告也没定义「agentic 安全」具体指什么。这更像一笔挂着安全名目的生态投资,值得盯的是这些算力实际流向哪些项目。

Cerebras CEO:有些 AI 领袖「也许不该被允许公开发言」

Andrew Feldman 在 TechCrunch Disrupt 上批评行业领袖渲染生存风险,说过度谈危险掩盖了 AI 消灭癌症死亡这类收益,矛头暗指刚被《周六夜现场》模仿的 Amodei;他同时也说「这项技术很强大,我们要审慎,要合理监管」。立场分布延续了 9 月 All-In 峰会那次通话的格局:喊话调速的在模型实验室一侧,泼冷水的是算力供应商和白宫。

研究速递

What You Sign Is Not What You Run:量化模型的验证缺口

模型签名机制认证的是发布时的全精度权重,但用户实际运行的是量化版本(把权重压成低比特、能在普通硬件上跑的文件,常见如 GGUF 格式),而量化文件和被签名的原件之间没有可验证的对应关系。作者提出「独立可验证率」指标:第三方能逐比特复现的量化文件占比。实测 Hugging Face 下载量前 200 的 GGUF 仓库,没有一个记录构建环境,复现率 0/198;补齐构建细节后 x86 上 8 个文件能复现 7 个,缺的往往是浮点运算设置、逐张量量化配方这类没人记录的参数。做模型分发和供应链安全的人应该点进去:签名护住的恰恰是没人直接运行的那份权重。

换个 judge,越狱成功率能差 82 个百分点

越狱论文通行的攻击成功率(ASR)靠一个 judge 模型判定回答是否满足了违禁请求;这篇发现仅更换 judge 模型,同一攻击的 ASR 报告值最多能差 82 个百分点。作者的替代方案是一个语义重构游戏:让评测者从模型回答反推「它实际在回答什么问题」,再与真实违禁请求和一组干扰项匹配,匹配不上可以弃权;对照人工标注误差更低,跨 judge 的方差也更小。写过或引用过 ASR 数字的人都该点进去:不同论文之间的越狱成功率,可能根本不可比。

今日一句话:今天最值得记的数字是 11.2% 对 36.4%——罚模型坦白走捷径,隐蔽违规率翻三倍;诚实是被训练出来的,也会被训练没。