OpenAI 将在欧盟给 ChatGPT 和 Codex 文本加水印

OpenAI 宣布未来几周起,欧盟境内 ChatGPT 和 Codex 生成的文本将嵌入不可见水印 textGrain:在几个词都说得通的位置,由密钥决定选哪个词,文本够长时持同一密钥就能检出这个统计信号;API 用户全球可选用,默认关闭。这是 EU AI Act 透明度条款(2026 年 8 月 2 日起适用)下的合规动作,我 9 月在水印检测只给判定不给分数里讨论过这类方案的检测权和密钥治理问题。这次 OpenAI 自己公布的数据划出了能力边界:400 token 检出率约 95%,但把四分之一的词换成同义词后掉到 17%,防得住复制粘贴,防不住有心改写。

ChatGPT 给仿《纽约客》漫画签上真实漫画家的名字

Nieman Lab 调查发现,让 ChatGPT 画「《纽约客》风格漫画」时,它会把 15 位以上真实漫画家的签名一并画进去:一张签着漫画家 Brendan Loper 笔名「BLOPER」的假漫画在 Facebook 疯传,不少读者跑去问 Loper 本人是不是他画的。OpenAI 2024 年与《纽约客》母公司 Condé Nast 签过内容授权,但据 Nieman Lab 报道,该协议不含漫画的训练授权。和上一条对照着看:水印给出的是「内容出自 AI」的信号,这里的问题正相反,是 AI 生成物冒充具体某个真人的手笔,textGrain 这类方案本来就不是为抓这种问题设计的。

Reflection 公布 501B 开源权重模型 Beam

Reflection 公布其首个开源权重模型 Beam:501B 总参数、23B 激活的稀疏 MoE,面向编码和 agent 任务,自报推理成绩与 GLM-5.2 相当而推理算力省 3–4 倍,权重本月晚些时候以 Apache 2.0 放出(另见 TechCrunch)。两点要注意:权重和技术报告都还没出,所有数字目前是自报、无独立复测;它主打的对标对象是 GLM、Qwen 等中国开源模型。「给企业和主权客户一个非中国的开源选项」就是它的商业定位,这比跑分更能说明开源权重市场现在的格局。

OpenAI 在 ChatGPT 图像生成里测试视觉广告

本月起在美区与首批广告主测试:用户等待图像生成时展示带明确标识的视觉广告,与生成结果分开放置,OpenAI 称广告不影响模型实际生成的内容;同时在与 DoubleVerify、Integral Ad Science 试点品牌适配度(brand suitability)测量。广告测量机构第一天就进场,说明这是正经收入线,不是试水。「广告不影响结果」是每个广告平台第一天都会给的承诺,真正的检验要等广告收入变成依赖之后,这条值得长期盯。

TikTok 上线 AI 购物助手和一键结账

TikTok 在 Advertising Week 发布对话式购物 agent「Shopping Assistant」和站内一键结账「Buy Direct」(TechCrunch),与 Salesforce、Shopify、Stripe 共建;商家这一侧,据 Salesforce 介绍,Buy Direct 的结账跑在 Universal Commerce Protocol 上,一套让 AI agent 能按统一规则调用商家库存、下单、支付系统的标准化接口。agentic commerce 这条线近期每周都有平台加码,争的是同一件事:用户的购买决策发生在谁的 agent 对话框里,谁就拿走交易入口。

HackerRank 的 AI 面试官 Chakra 转正,beta 期已面试 50 万场

HackerRank 把测试约半年的 AI 面试官 Chakra 正式开放(官方产品页 chakra.sh),beta 期间完成超 50 万场面试,Snowflake、Capgemini 等是早期用户。它把招聘方初筛、笔试、工程师追问三轮合并成一场,除了答案还评估过程信号,包括 HackerRank 所称的「AI fluency」:候选人怎么把问题拆给 AI、怎么核对和修正 AI 的输出。对找工作的工程师,信号很直接:面试考察点正从「不许用 AI」转向「看你把 AI 用得多好」,50 万场的量说明这已是流程,不是实验。

Dust:不用反向传播预训练 Transformer

Q Labs 提出零阶优化方法 Dust:不做反向传播,而是给每个 token 的激活值独立加高斯噪声(扰动激活而非权重),一次前向传播同时评估海量「虚拟种群成员」,再按每个扰动降低 loss 的程度加权,反推出权重梯度的估计。在最大 243M 参数的实验里效果接近反向传播,且模型越大种群效率越高,和零阶方法「难 scale」的通常印象相反。规模还小,下不了结论,但「只用前向传播」的训练路线若能成立,训练对显存(要存激活等回传)和芯片间梯度同步的硬约束都会松动,值得盯后续更大规模的验证。

一封 1809 年的拿破仑军令密信被 AI 破解

SentinelOne 的 AI 工程师 Carter Church 用 GPT-6 Astra 花 6 小时读出了 1809 年拿破仑授意继子欧仁发给马尔蒙元帅的密信:在前人已解出的 33 个字符基础上,用模拟退火按法语字母统计特征给候选明文打分;writeup 发布于 9 月 18 日,本周经 Bruce Schneier 转发后受到关注。Church 的自评很克制:「一个有耐心的专家 1970 年就能做到」。这和上月同一模型破解 Enigma 报文(见 9 月 22 日快讯)是同一条曲线:变的不是密码分析方法,是成本,这条曲线指向现实弱密码系统时会发生什么,我在 Claude 会做密码分析了里写过。

研究速递

RealCompanion:用真实长期关系测 AI 陪伴的记忆与理解

用十段跨数月的真实人机关系记录做评测,测模型能否记住用户历史、在恰当时机调用、并基于长程信息做推断,而不是在单轮模拟里演记忆。陪伴类产品的「记忆」宣传远多于实际测量,这是少见的贴着真实使用形态做的基准。做 memory 系统或陪伴类产品的人值得点进去。

学蛋白质折叠能迁移出通用推理吗

用蛋白质折叠这类有精确、可机器验证答案的科学任务做训练信号,测试由此获得的能力能否迁移为更广的推理提升。思路的价值在于绕开人类文本里只在表面上正确的答案,让奖励信号来自可验证的结构。关注推理训练数据从哪来的 researcher 应该看看迁移具体发生在哪些任务上。

Latent-MOPD:蒸馏从输出分布推进到表征层

在 on-policy distillation 里同时用多个教师模型,除输出分布外还融合教师计算输出时的隐藏状态,作者称这是同类方法中首个做到表征层融合的。on-policy distillation 是近两周持续升温的子方向,这篇给出了方法层面的具体推进。做小模型蒸馏的工程师可以核一核它报告的增益是否配得上训练期同时跑多个教师的开销,毕竟部署出去的学生模型仍只是单个模型。

今日一句话:水印给出的信号是「这大概率出自 AI」,被伪造的签名宣称的是「这是人做的」。前者现在有法案、密钥和公开的检出率;后者在本周这个案例里,是靠读者去问漫画家本人才被发现的。溯源体系真正的缺口在后一半。