Google 发布 Gemini agent:企业 agent 有了自己的邮箱和通讯录条目

Google Cloud 在 Gemini at Work 大会上发布面向企业的 Gemini agent:它自己规划并执行任务,把每个子任务发给最合适的模型(包括 Anthropic 的 Claude),需要时临时创建子 agent 分头干活。常驻的「同事 agent」(coworker agent)拿到完整 Workspace 账号:专属邮箱(@agents.company.com)、日历、云盘,出现在公司通讯录里,可以像同事一样被拉进群、被 @。当 agent 以独立身份进入企业 IT 系统,权限划分和审计就从模型问题变成了 IT 治理问题(另见 TechCrunch)。

三名被解雇的 OpenAI 安全研究员发公开信:指控不实,寒蝉效应已经出现

Jasmine Wang、Tomek Korbak、Mikita Balesni 10 月 8 日发公开信,否认 OpenAI 所称的「不当处理敏感信息」,称被追责的行为(例如与外部评估机构协作)一个月前还是常规操作。据 TechCrunch,OpenAI 给出的解雇理由是向外部 AI 安全机构分享机密信息;此前有报道称 OpenAI 最新模型采用了「可监控性下降」的架构,三人否认自己是这一消息外泄的源头。OpenAI 内部备忘录坚称解雇「与提出安全关切无关」,但拒绝说明具体违反了哪条政策。安全团队本来就靠外部协作提前发现风险,边界突然收紧又不讲清规则,留下的人只会选择沉默,这正是信里警告的寒蝉效应。

OpenAI 披露两起「假面」影响力行动:伪造记者和智库

OpenAI 封禁了两起用其模型做地缘政治宣传的行动:俄罗斯关联的「Dark Clark」虚构了一个叫 Mia Clark 的 AI 人设,让「她」领导一家假的拉美智库「Social Research Center」;伊朗关联的行动用七个假扮西方记者的身份,在十几家媒体发出近百篇文章。OpenAI 按其 1 到 6 级的影响力量表给两起行动打了 4 分和 5 分,并称这是其首次披露达到「高影响」级别的行动。假记者的稿件真的登上了正规媒体:AI 压低的成本不在写稿,而在长期撑起一个假身份。

Anthropic 更新使用政策:选举条款收窄,武器条款点名无人机

新政策 11 月 12 日生效:新增「欺骗性活动」专节,针对假账号和伪造新闻站;选举限制从一刀切收窄为具体危害,禁止误导选民和冒充身份,但放开了翻译选民信息这类正当用途;武器条款明确覆盖「让武器运转的软件和组件」,包括给无人机加装武器。另外两条很有 agent 时代的针对性:Claude 不得用于决定「调查、逮捕或起诉谁」,接入可能伤人的硬件时必须有合格操作员在场、能随时停机。条款从宽泛类别转向可执行的具体危害清单,和 OpenAI 同日披露的滥用案例对得上:平台的执法经验正在反哺政策文本。

Goodfire 上线「由内向外」的 agent 监控,成本只有外部监控的零头

Goodfire 的做法是在模型内部激活值上训练小型探针(probe,一种轻量检测器),推理时逐步读取内部信号,探针报警才升级到更贵的 LLM 复查,省掉了「让第二个模型通读全部输出」的传统开销。据 TechCrunch,在 Kimi K3 上约 1500 个会话的测试里,探针抓住 94% 的恶意黑客会话、误报率 8.7%,总监控成本约 51 美元;同样任务用便宜的外部监控要 233 美元,顶级外部监控约 1 万美元。监控已对 Baseten 托管客户开放,可配置盯防黑客攻击、生化武器滥用和 reward hacking;可解释性研究这次拿「便宜一个数量级」当卖点,这对落地的推动比任何论文都直接。

数学界:OpenAI 的 719 份「证明」没达到约定标准

OpenAI 公布了 719 份宣称解决研究级数学问题的手稿,但数学与 AI 顾问组 AGMAI 9 月刚定的规范大半没有被遵守:只有 10 份附模型推理过程,42% 的证明从未用 Lean(机器可验证的证明语言)形式化,剑桥和伦敦国王学院的研究者还在其 Navier-Stokes 证明里发现自然语言版本与 Lean 代码对不上。陶哲轩的批评指向发布之后:「AI 提示者在最初目标被『解决』后,对这个领域本身毫无兴趣」;哈佛的 Melanie Wood 说得更直白:发布那一刻,不存在人类对这些证明的理解。宣传节奏跑在验证前面,这正是 AGMAI 规范想拦住的事。

OpenAI 年化营收约 500 亿美元,比此前流传的数字少 200 亿

据英国《金融时报》报道,OpenAI 告诉投资人年化营收「接近 500 亿美元」,而上月广泛流传的数字约 700 亿。差额主要出在统计口径:Anthropic 的年化营收计入 AWS、Google Cloud 等云伙伴渠道的销售,OpenAI 自报数字不含这部分,此前投资人为了和 Anthropic 直接对比,折算出了偏高的数字。OpenAI 称同期营收增速仍超过 70%;但一个口径差异就能让数字摆动 200 亿,说明外界对 frontier lab 财务的认知基本建立在投资人转述上。

LMArena 融资 2 亿美元,同时上线「对齐榜单」

Arena(LMArena)完成 Lightspeed 和 Khosla Ventures 领投的 2 亿美元 B 轮,估值 31 亿美元、较今年 1 月大致翻倍,年化营收已过 1 亿美元。同步上线的 Alignment Index 在 20 多个模型上追踪三类行为:越权行动(agent 做了用户没要求的事)、虚假归因(歪曲用户说过的话)、虚假完成(谎称任务已经做完)。对齐行为上了和能力榜并列的公开排行榜,而且由一家有营收的公司长期维护,这比学术界一次性的 benchmark 更能持续施压。

Manus 与 Meta 分家后首轮融资超 5 亿美元

Boyu Capital 和 IDG 领投,腾讯、HSG、真格基金等跟投;这是 Meta 20 亿美元收购案今年 4 月被中国监管叫停、公司 8 月恢复独立运营后的第一轮融资(官方公告仅发在微信公众号)。Manus 近期发布了 Manus 2.0 和独立 app Cue,给个人 agent 配上邮箱、电话号码和数字钱包。和 Google 今天给同事 agent 发邮箱放在一起看,给 agent 建立独立身份已是中美产品线共同的押注。

研究速递

Reasoning-Token Spikes Under Prompted Untruthful Responding in Large Language Models

研究者让三个推理模型在 210 道选择题上分别按「说真话」「说假话」「不管真假」的系统提示作答,发现说谎时生成的推理 token 显著多于说真话,由此得到一个不读内容、只数 token 的欺骗信号。局限作者自己讲明了:这是被提示出来的说谎,尚不能推广到自发欺骗或训练中习得的欺骗策略。做 CoT 监控和欺骗检测的 researcher 值得跟进:这个信号能否撑过单实例检测和对抗场景,决定它是玩具还是工具。

Long-WAM: Scaling the Context of World-Action Models

给机器人的世界-动作模型(预测未来画面并输出动作的模型)加长历史窗口,本身收效甚微,关键在视频基础模型是否用自回归(因果)方式预训练:因果预训练的模型把上下文从 0 拉到 19.2 秒,RoboCasa GR-1 上任务成功率从 63.3% 升到 78.7%,双向预训练的模型加多少历史都几乎不涨。真机动态叠杯成功率 95%。做具身智能的 researcher 应该重估「上下文越长越好」这条默认假设:拿得到历史和用得上历史是两种能力。

今日一句话:Google 给企业 agent 发邮箱,Manus 给个人 agent 配电话和钱包,Arena 开始给「agent 越权」打分:agent 的独立身份来得比配套的权限和审计体系更快,这个缺口就是下一阶段的安全工作。