Karpathy:对 LLM 能力的认知正在收窄成一个尖漏斗
Karpathy 发帖给出一组毛估:约 60 亿人几乎没接触过 LLM;10 到 20 亿人只用过免费聊天产品,把它当搜索来用;约 2000 万人亲眼见过以前要花数周的项目被 agent 做完;而能摸到实验室内部前沿系统的,大约只有五千人。他归因于三件事:任务规模和时间跨度、模型能力在可验证的数字化领域最突出、免费/付费/内部权限的落差。这组数字全是他的估算;最后这一步是我的推断,不是他说的:讨论 AI 政策的大多数人,多半就站在漏斗最宽的那两层。
Thinking Machines:把任务专家经验灌进 RL,text-to-SQL 过了人类基准线
Thinking Machines 与 UIUC 合作发布 ReViSQL-K2.6,核心做法是给 RLVR 训练修数据和修奖励:审计发现 BIRD Train 数据集 61.1% 的样本有错,清洗出 BIRD-Platinum;再用 VeriEQL 校验 SQL 语义等价,发现按执行结果打分的正向奖励里有 32.8% 其实判错了。修完之后,模型以 16 次自洽投票拿到 92.97% 准确率,单任务成本 0.56 美元;团队称据他们所知,这是首个超过 92.96% 人类基准的结果。对做 RL 后训练的人,这篇真正的信息是:涨分主要来自修数据和修奖励,RL 目标函数本身(CISPO)是现成的。
开发者用 agent 车队反编译整款 FPS 游戏,99% 函数复原
开发者 momo5502 记录了用十几个 agent(混用 Claude 和 Codex 的多个模型)把一款第一人称射击游戏反编译回可读代码的全过程:作者估算总共消耗约 6000 到 7000 亿 token,99% 的函数被复原,其中 83% 与原始二进制逐字节一致,游戏可以运行。关键不在烧了多少 token,而在他写了一个字节级比对脚本,给每个函数客观的 PASS/FAIL 信号。在我看来,这和 RLVR 能成立的道理是同一个:有可验证的真值,规模才有用。另一个细节:此前关于这个项目的两篇帖子被下架,这次作者连游戏名字都不写,外部压力比技术更早划定了边界。
Hack The Box 推出 AI Range 企业版,给安全 agent 做岗位考核
Hack The Box 于 10 月 6 日把 AI Range 开放给企业安全团队,让企业在受控环境里考核自家 AI agent 能否胜任具体岗位,首批覆盖渗透测试员和 SOC 分析师两个角色,输出按岗位的评分、单环境的通过与否和随时间的表现曲线。它瞄准的缺口很具体:不少 agent 只凭 benchmark 分数或厂商自测就上了生产,从没对照过它每天真正要干的活。它还同时给人打分:考核安全工程师有没有能力质疑 agent 的产出、在必要时介入。
亚马逊、微软弃用数据中心谈判 NDA
TechCrunch Equity 播客注意到一个转变:Amazon 和 Microsoft 已停止在与地方政府谈数据中心项目时签 NDA,背景是近期的多项暂停令,包括旧金山的市级暂停令和纽约州的全州暂停。主持人的判断值得一听:暂停令的措辞多是「需要时间研究」而非彻底拒绝,留了回旋余地;但只去掉 NDA 不会自动把反对者变成支持者,信息公开是必要条件,不是充分条件。
语音 AI 为什么还没等到自己的 ChatGPT 时刻
PolyAI CTO Shawn Wen 和 Otter CMO Alex Gay 给出的症结很一致:链条最前端的语音识别经常漏掉关键词,用 Gay 的话说,「如果原始转写就不准,后面所有动作都是错的」;Wen 补充,下一个挑战是让推理快到撑得起自然的对话节奏。这个诊断把问题从「模型不够聪明」挪到了「输入在第一环就坏了」:转写错误会沿整条链路一路放大。
研究速递
Agreement Without Alignment:LLM 评委更一致了,但没更接近人类
论文提出一个免人工标注的流程:找出 LLM 评委分歧最大的评分子条款,让模型只重写这些条款。结果在 SummEval 上评委间一致性提高 0.069,但与人类评分的一致性没有可检测的变化(Kendall τ 差 -0.007),另两个数据集连预注册的成功阈值都没过。所有用 LLM-judge 面板做评测的人都该看一眼:把评分标准越写越清,只会让评委彼此抱团,抱团不等于评得对。
今日一句话:评委彼此趋同不等于评得对;我怀疑在漏斗最宽那两层形成的关于 AI 的公众共识也是一样,一致反映的是相同的接触层级,不是相同的理解。