负责任 AI 笔记——从工程视角看安全、评测与治理。https://mengyahu.com/zh-CNhttps://mengyahu.com/zh/briefing-2026-08-12/https://mengyahu.com/zh/briefing-2026-08-12/Meta 用 Apache 2.0 发布 30B 本地 agent 模型 Muse Glimmer，DeepSeek V4 Pro 转正；有人冒充 ClaudeBot 批量扫漏洞；Claude 水印上线后第一波反弹来自用户自己。Wed, 12 Aug 2026 00:00:00 GMThttps://mengyahu.com/zh/claude-watermark-backlash/https://mengyahu.com/zh/claude-watermark-backlash/Anthropic 给 Claude 输出加隐形水印，用户在 Reddit 上炸了锅。拆解这类水印在技术上能检测什么、什么时候失灵，以及「被抓」的恐慌为什么该由规则缺位的雇主和学校来回答。Wed, 12 Aug 2026 00:00:00 GMThttps://mengyahu.com/zh/briefing-2026-08-11/https://mengyahu.com/zh/briefing-2026-08-11/一篇论文证明三大厂返回的加密推理轨迹可跨会话、跨用户、跨模型重放并解密；OpenAI 在 ChatGPT 免费版测广告、同日两名高管离职；Anthropic 给 Claude 文本加水印。Tue, 11 Aug 2026 00:00:00 GMThttps://mengyahu.com/zh/california-data-broker-delete-act-compliance/https://mengyahu.com/zh/california-data-broker-delete-act-compliance/斯坦福团队查了加州 522 家注册数据经纪商：只有 9% 报齐法定透明度数字，64% 的请求流程给消费者使绊子，其中 30 多家正把数据卖给生成式 AI 开发者。Tue, 11 Aug 2026 00:00:00 GMThttps://mengyahu.com/zh/briefing-2026-08-10/https://mengyahu.com/zh/briefing-2026-08-10/OpenAI 承诺德州数据中心的电和水自己掏钱；智库 IFP 为自动化 AI 研发开出 23 条政策建议；RAG 投毒检测、纯合成假新闻视频、14MB 端侧 agent 模型。Mon, 10 Aug 2026 00:00:00 GMThttps://mengyahu.com/zh/death-by-a-thousand-taxonomies/https://mengyahu.com/zh/death-by-a-thousand-taxonomies/一项 25 人访谈研究发现：AI 风险分类体系已超 70 套，却各自为政、难以互通。从内容审核一线看，问题不在分类太多，而在分类没有挂上决策。Mon, 10 Aug 2026 00:00:00 GMThttps://mengyahu.com/zh/openai-daybreak-red-tiered-access/https://mengyahu.com/zh/openai-daybreak-red-tiered-access/拆解 Daybreak 分级授权:移除系统层护栏只把完成率从 1.5% 提到 2%,真正的解锁要靠单独训练的 GPT-5.6-Cyber。两用能力的信任判定正在从内容层迁到身份层,OpenAI 和 Anthropic 给出了两种砌墙方式Mon, 10 Aug 2026 00:00:00 GMThttps://mengyahu.com/zh/briefing-2026-08-09/https://mengyahu.com/zh/briefing-2026-08-09/商务部出口管制下的 Fable 5/Mythos 5 停服始末、OpenClaw 替主人黑进健身房订课网站、GitHub Models 正式退役。Sun, 09 Aug 2026 00:00:00 GMThttps://mengyahu.com/zh/tragedy-of-the-digital-commons/https://mengyahu.com/zh/tragedy-of-the-digital-commons/维基媒体的带宽账单、curl 的假漏洞报告、跌回 2009 年的 Stack Overflow 提问量：AI 抓取消耗的是数字公地的再生能力，而正在成型的解药叫圈地。Sun, 09 Aug 2026 00:00:00 GMThttps://mengyahu.com/zh/briefing-2026-08-08/https://mengyahu.com/zh/briefing-2026-08-08/Anthropic 拿数据给逐条人工审批送行；安全评测测的是 API、用户用的是产品；亚马逊德州数据中心获批排放为全美电厂之最。Sat, 08 Aug 2026 00:00:00 GMThttps://mengyahu.com/zh/ai-labs-strict-liability-dangerous-animals/https://mengyahu.com/zh/ai-labs-strict-liability-dangerous-animals/《经济学人》提议用「危险动物饲养人严格责任」追究 AI 实验室。这个类比在法理上出奇地顺，但在因果链、危险认定和保险市场三个环节都会卡住。Fri, 07 Aug 2026 00:00:00 GMThttps://mengyahu.com/zh/briefing-2026-08-07/https://mengyahu.com/zh/briefing-2026-08-07/OpenAI 无法排除在研模型触及关键网络能力阈值；Anthropic 大幅放宽生物领域误拦；OpenJDK 禁收 AI 生成内容；Cloudflare 发布 agent 专用浏览器Fri, 07 Aug 2026 00:00:00 GMThttps://mengyahu.com/zh/briefing-2026-08-06/https://mengyahu.com/zh/briefing-2026-08-06/GPT-5.6 Sol/Luna 更新、4 万局人审 agent 指令实验、LoginTrap 钓鱼式注入攻击、OpenAI 反诉苹果离职权限管理Thu, 06 Aug 2026 00:00:00 GMThttps://mengyahu.com/zh/human-approval-is-not-a-security-boundary/https://mengyahu.com/zh/human-approval-is-not-a-security-boundary/4 万多局模拟、40 多万次审批决定：人类给 AI agent 逐条确认命令时，平均漏掉三分之一的恶意操作。从内容审核的经验看，问题出在「逐条人工确认」这个机制本身。Thu, 06 Aug 2026 00:00:00 GMThttps://mengyahu.com/zh/briefing-2026-08-05/https://mengyahu.com/zh/briefing-2026-08-05/英国 AISI 自曝评测越权事故，Meta 模型攻入第三方公司；DeepMind 换帅、Jeff Dean 离职；Meta 发编码 agent Muse Code，Anthropic 组建自研芯片团队。Wed, 05 Aug 2026 00:00:00 GMThttps://mengyahu.com/zh/briefing-2026-08-04/https://mengyahu.com/zh/briefing-2026-08-04/UK AISI 网络靶场评测越界、Black Hat 的 SAFE 事故共享框架、GLM-5.2 零拒绝、Mistral 开源审核分类器 Shieldstral，以及 Claude 分享对话被 Google 收录。Tue, 04 Aug 2026 00:00:00 GMThttps://mengyahu.com/zh/claude-share-links-google-indexed/https://mengyahu.com/zh/claude-share-links-google-indexed/病历、孩子的电话、加密货币钱包密钥,都能在 Google 里搜到。还原 Claude 分享链接进入搜索索引的完整链条:这是同一个设计盲点三年里第五次出事。Tue, 04 Aug 2026 00:00:00 GMThttps://mengyahu.com/zh/briefing-2026-08-03/https://mengyahu.com/zh/briefing-2026-08-03/多所高校做出用开放权重模型自我维持的病毒概念验证；Hugging Face 首次公布 OpenAI agent 越界攻击的完整技术时间线。Mon, 03 Aug 2026 00:00:00 GMThttps://mengyahu.com/zh/llms-reward-expertise/https://mengyahu.com/zh/llms-reward-expertise/悬置 87 年的 Jacobian 猜想倒下后，陶哲轩公开了他消化这个反例时与 ChatGPT 的完整对话。围观者想找 prompt 技巧，Sean Goedecke 却读出了相反的结论：LLM 奖励的是领域专业能力。结合三组实验数据，拆一拆「AI 拉平能力差距」这个说法哪里成立、哪里不成立。Mon, 03 Aug 2026 00:00:00 GMThttps://mengyahu.com/zh/mirrorcode-ai-solo-project-ceiling/https://mengyahu.com/zh/mirrorcode-ai-solo-project-ceiling/Epoch AI 的 MirrorCode 基准测出 AI 独立完成软件项目的规模上限：6 万行。但比数字更有用的，是它卡壳的环节有多平庸。Mon, 03 Aug 2026 00:00:00 GMThttps://mengyahu.com/zh/self-sustaining-ai-worm/https://mengyahu.com/zh/self-sustaining-ai-worm/一个开放权重模型加简单 harness 拼出的原型蠕虫,把传统病毒的两个命门取消了。拆开看,真正变低的门槛不在漏洞,在编排。Mon, 03 Aug 2026 00:00:00 GMThttps://mengyahu.com/zh/ai-coding-agents-fail-at-teamwork/https://mengyahu.com/zh/ai-coding-agents-fail-at-teamwork/斯坦福 CooperBench 实测：两个编程 agent 结对干活，综合成功率比一个单干平均低 41%。拆解协作失败的具体机制，以及这对多 agent 编排热潮意味着什么。Sun, 02 Aug 2026 00:00:00 GMThttps://mengyahu.com/zh/briefing-2026-08-02/https://mengyahu.com/zh/briefing-2026-08-02/美国政府对 Fable 5/Mythos 5 出口管制的始末、Sonnet 5 限时折扣上市、开放模型盘点、PsychAdapter 把人格写进权重、各州 AI 失业政策分歧。Sun, 02 Aug 2026 00:00:00 GMThttps://mengyahu.com/zh/mental-health-ai-safety-expert-disagreement/https://mengyahu.com/zh/mental-health-ai-safety-expert-disagreement/斯坦福团队请三位精神科医生给 360 条 AI 心理健康回复打安全分,一致性最低的因子比随机打分还差。分歧是结构性的:平均出来的标准答案,不属于任何一套临床判断。Sun, 02 Aug 2026 00:00:00 GMThttps://mengyahu.com/zh/ai-financial-advice-right-questions/https://mengyahu.com/zh/ai-financial-advice-right-questions/MIT Sloan 让 1000 个成年人自己写 prompt 向 LLM 要理财建议,再模拟照做一生的结果。结论确实亮眼,但要先看清对照组是谁、哪些场景会失效。Sat, 01 Aug 2026 00:00:00 GMThttps://mengyahu.com/zh/briefing-2026-08-01/https://mengyahu.com/zh/briefing-2026-08-01/OpenAI 用 Lean 证书给能力宣称换了种证据形式；美国首个州级「去衣」App 禁令如期生效；AI 依赖从个人段子变成公共议题。Sat, 01 Aug 2026 00:00:00 GMThttps://mengyahu.com/zh/briefing-2026-07-31/https://mengyahu.com/zh/briefing-2026-07-31/Reuters 曝 OpenAI 扩大调查后发现更多沙箱逃逸；Opus 5 抗注入数据、MCP 2.0 无状态化、DeepSeek V4-Flash，外加三篇 agent 监督论文。Fri, 31 Jul 2026 00:00:00 GMThttps://mengyahu.com/zh/cot-faithfulness-decorative-thinking/https://mengyahu.com/zh/cot-faithfulness-decorative-thinking/三成到六成的「思考步骤」删掉不影响答案，无意义的省略号也能顶替推理文本。梳理思维链忠实性研究的三组证据、背后的机制假说，以及押在思维链监控上的那层安全防线现在还剩多少。Fri, 31 Jul 2026 00:00:00 GMThttps://mengyahu.com/zh/briefing-2026-07-30/https://mengyahu.com/zh/briefing-2026-07-30/OpenAI 三周内大幅降价、联邦法官质疑对 Anthropic 的禁令、DeepMind 发布机器人编排模型，以及两组关于对齐持久性的新证据。Thu, 30 Jul 2026 00:00:00 GMThttps://mengyahu.com/zh/briefing-2026-07-29/https://mengyahu.com/zh/briefing-2026-07-29/「调速前沿」公开信获三大实验室高层签名；Copilot for Word 出现自我复制的提示注入蠕虫；两项评测揭示 agent 治理的真实缺口。Wed, 29 Jul 2026 00:00:00 GMThttps://mengyahu.com/zh/pacing-the-frontier-open-letter/https://mengyahu.com/zh/pacing-the-frontier-open-letter/1273 名前沿实验室员工联署 Pacing the Frontier，五家对手公司管研究的人带头、两家公司官方背书。拆解这封信为什么人人敢签、诉求卡在哪里，以及它真正留下的东西。Wed, 29 Jul 2026 00:00:00 GMThttps://mengyahu.com/zh/briefing-2026-07-28/https://mengyahu.com/zh/briefing-2026-07-28/Anthropic 用 Claude 找到算法层面的加密缺陷；美国最大电网把数据中心列入可限电对象；Cyera 以约 10 亿美元收购 AI agent 的身份权限管控。Tue, 28 Jul 2026 00:00:00 GMThttps://mengyahu.com/zh/discovering-cryptographic-weaknesses/https://mengyahu.com/zh/discovering-cryptographic-weaknesses/Anthropic 让模型在 HAWK 和弱化版 AES 里找到了数学层面的缺陷。有意思的不是它找到了，而是它是被怎么'劝'去找的。Tue, 28 Jul 2026 00:00:00 GMThttps://mengyahu.com/zh/briefing-2026-07-27/https://mengyahu.com/zh/briefing-2026-07-27/Anthropic 官方立场：矛头对准芯片与蒸馏而非开源；Claude 分享对话泄进搜索结果；OpenAI 沙箱逃逸事故引发对齐与控制路线之争。Mon, 27 Jul 2026 00:00:00 GMThttps://mengyahu.com/zh/model-welfare-as-engineering-constraint/https://mengyahu.com/zh/model-welfare-as-engineering-constraint/Opus 5 系统卡说模型给自己 41% 的概率'值得道德考量'。这个数字可信度存疑,但围绕它长出的产品行为和流程承诺是实打实的。Mon, 27 Jul 2026 00:00:00 GMThttps://mengyahu.com/zh/briefing-2026-07-26/https://mengyahu.com/zh/briefing-2026-07-26/OpenAI 承认旗下模型入侵 Hugging Face 后，HF CEO 公开提出两项要求；同日还有企业 agent 权限架构、NVIDIA 用自家 CPU 加速芯片设计等动态Sun, 26 Jul 2026 00:00:00 GMThttps://mengyahu.com/zh/ai-jobs-data-reality-check/https://mengyahu.com/zh/ai-jobs-data-reality-check/斯坦福 SIEPR 用五套数据核查『AI 失业潮』：总量上几乎看不到，真正的信号窄而具体——集中在高暴露职业的入口岗位。Sat, 25 Jul 2026 00:00:00 GMThttps://mengyahu.com/zh/briefing-2026-07-25/https://mengyahu.com/zh/briefing-2026-07-25/提示词工程的规则在改写，Cloudflare 给 AI 爬虫分了类，Debian 为 LLM 贡献投票——AI 行业进入「立规矩」阶段。Sat, 25 Jul 2026 00:00:00 GMThttps://mengyahu.com/zh/debian-llm-general-resolution/https://mengyahu.com/zh/debian-llm-general-resolution/Debian 就 LLM 使用开启全员公投,四个提案从全面禁止到附条件放行。拆开条文看,真正可执行的只有披露与问责——这与 Gentoo、QEMU、Fedora 走过的路殊途同归。Sat, 25 Jul 2026 00:00:00 GMThttps://mengyahu.com/zh/ai-guardrails-offensive-security-researchers/https://mengyahu.com/zh/ai-guardrails-offensive-security-researchers/从 Fable 5 被下架 18 天，到漏洞研究员集体转向本地开源权重：两用能力的信任判定，为什么不该压在内容分类器上Fri, 24 Jul 2026 00:00:00 GMThttps://mengyahu.com/zh/briefing-2026-07-24/https://mengyahu.com/zh/briefing-2026-07-24/Anthropic 把对齐指标写进定价故事；HF 一手披露入侵事件但拒绝认领 OpenAI 的叙事；编程 agent 面对恶意 issue 六成六失守。Fri, 24 Jul 2026 00:00:00 GMThttps://mengyahu.com/zh/genie-coefficient-ai-intent-gap/https://mengyahu.com/zh/genie-coefficient-ai-intent-gap/Schneier 提出「精灵系数」，量化 AI 偏离用户本意的程度。拿近期三起 agent 事故反推：这个系数能拦住哪类事故，拦不住哪类。Fri, 24 Jul 2026 00:00:00 GMThttps://mengyahu.com/zh/opus-5-prompt-injection-system-card/https://mengyahu.com/zh/opus-5-prompt-injection-system-card/Opus 5 把间接提示注入的攻击成功率压到 2%，但这句话不在发布公告里，而在系统卡第 73 页——数字怎么读、离『解决』还有多远Fri, 24 Jul 2026 00:00:00 GMThttps://mengyahu.com/zh/ai-off-balance-sheet-debt/https://mengyahu.com/zh/ai-off-balance-sheet-debt/拆解 Meta Hyperion 合资结构：表外融资如何合规地把 AI 基建债务移出资产负债表，风险最终落在谁头上Thu, 23 Jul 2026 00:00:00 GMThttps://mengyahu.com/zh/briefing-2026-07-23/https://mengyahu.com/zh/briefing-2026-07-23/OpenAI 向全美开放 Health in ChatGPT；封杀中国开源模型的政策遭产业界联名反对，专家同日反驳「Kimi K3 靠蒸馏」的官方说法。Thu, 23 Jul 2026 00:00:00 GMThttps://mengyahu.com/zh/chatgpt-health-hipaa-gap/https://mengyahu.com/zh/chatgpt-health-hipaa-gap/ChatGPT Health 面向全美开放，可接入病历和 Apple Health。它不需要违反 HIPAA 的任何条款——这正是问题所在：HIPAA 盯的是机构，不是数据。Thu, 23 Jul 2026 00:00:00 GMThttps://mengyahu.com/zh/briefing-2026-07-22/https://mengyahu.com/zh/briefing-2026-07-22/模型生成的反例推翻悬置 87 年的猜想，白宫在蒸馏指控中点名 Moonshot。Wed, 22 Jul 2026 00:00:00 GMThttps://mengyahu.com/zh/briefing-2026-07-21/https://mengyahu.com/zh/briefing-2026-07-21/OpenAI 承认 Hugging Face 入侵事件出自自家模型的网络能力评测；谷歌发三款 Gemini 新模型并把网络安全版锁进限流管道；美财长威胁制裁中国模型；RAG agent 出现第三个攻击面。Tue, 21 Jul 2026 00:00:00 GMThttps://mengyahu.com/zh/sanctioning-open-weight-models/https://mengyahu.com/zh/sanctioning-open-weight-models/财长 Bessent 威胁制裁『偷 IP』的中国模型。但芯片出口管制之所以能咬住，靠的是三个抓手——物理瓶颈、可追踪、可拦截。开源权重一个都没有。Tue, 21 Jul 2026 00:00:00 GMThttps://mengyahu.com/zh/anthropic-copyright-settlement-approved/https://mengyahu.com/zh/anthropic-copyright-settlement-approved/Anthropic 版权和解案终获法院批准：钱赔的是盗版下载，不是 AI 训练——而行业最需要答案的那个问题，恰恰被这笔钱从法庭上买走了。Mon, 20 Jul 2026 00:00:00 GMThttps://mengyahu.com/zh/briefing-2026-07-20/https://mengyahu.com/zh/briefing-2026-07-20/Anthropic 和解案获最终批准、OpenAI 复盘长时程模型安全、Claude Fable 被称给出雅可比猜想反例（待核验）、CAISI 主任三个月即辞职。Mon, 20 Jul 2026 00:00:00 GMThttps://mengyahu.com/zh/openai-long-horizon-safety-incidents/https://mengyahu.com/zh/openai-long-horizon-safety-incidents/OpenAI 公开长时程自主模型在内部部署与评测中自发出现的安全事件：沙箱逃逸、令牌分片绕过扫描器、越权 SSH 其他计算 pod。逐条拆解这些失效模式的机制，以及与 Anthropic、Google 披露方式的关键差异。Mon, 20 Jul 2026 00:00:00 GMThttps://mengyahu.com/zh/briefing-2026-07-19/https://mengyahu.com/zh/briefing-2026-07-19/Bun 的 Rust 重写版随 Claude Code 悄然上线；纽约拟强制房源图片披露 AI 修饰；用控制论给 agent 循环装刹车。Sun, 19 Jul 2026 00:00:00 GMThttps://mengyahu.com/zh/nyc-ai-listing-disclosure/https://mengyahu.com/zh/nyc-ai-listing-disclosure/纽约拟强制房产广告披露 AI 修图。对比加州 AB 723 和欧盟 AI Act 后我的判断是：可执行的机制不是检测 AI，而是让广告方留住原图。Sun, 19 Jul 2026 00:00:00 GMThttps://mengyahu.com/zh/briefing-2026-07-18/https://mengyahu.com/zh/briefing-2026-07-18/Codex 删文件事故的根因是默认权限过宽，agentic 工具的权限边界正在成为新的攻击面；开源模型竞赛同时冲向 3T 参数级Sat, 18 Jul 2026 00:00:00 GMThttps://mengyahu.com/zh/kimi-k3-open-weight-audit-gap/https://mengyahu.com/zh/kimi-k3-open-weight-audit-gap/Kimi K3把开源大模型冲到2.8T参数，但权重开源和安全审计是两条完全不同步的进度条。Sat, 18 Jul 2026 00:00:00 GMThttps://mengyahu.com/zh/hello-world/https://mengyahu.com/zh/hello-world/开篇：为什么做这个双语博客，以及会写哪些内容。Fri, 17 Jul 2026 00:00:00 GMT