Anthropic 发布 FlashProve 原型,用零知识证明验证 AI 回答出自哪个模型
Anthropic 发布开源研究原型 FlashProve,用 zkSNARK 密码学技术证明 AI 回答确实由声称的模型生成,且不暴露模型权重。单张 H100 GPU 上对 Llama 4 Maverick(4000 亿参数)约每秒生成 110 token 的证明,单个证明约 19MB,普通 CPU 上 17 秒可验证,开销约为常规推理的 70 到 95 倍。
Anthropic 发布开源研究原型 FlashProve,用 zkSNARK 密码学技术证明 AI 回答确实由声称的模型生成,且不暴露模型权重。单张 H100 GPU 上对 Llama 4 Maverick(4000 亿参数)约每秒生成 110 token 的证明,单个证明约 19MB,普通 CPU 上 17 秒可验证,开销约为常规推理的 70 到 95 倍。
Anthropic 发布博客称正在开发名为 FlashProve 的开源系统,通过密码学证明(可验证推理)确认某段输出确实来自特定模型,可防止 AI 公司偷偷换用便宜模型或虚报性能。该系统要求实验室发布不泄露模型权重的模型指纹,验证可在本地设备完成,技术规范和代码已在 GitHub 开源。Anthropic 表示这是阶段性研究成果,暂无部署计划,希望社区在此基础上改进。
斯坦福研究者 Owen Queen 和 James Zou 用 2024 年 7 月至 2026 年 9 月发布的 20 个模型复核 50 项被广泛引用的 LLM 研究结论,发现 44% 已过期,34% 明显减弱,仅 16% 仍然成立。
AI2 发布 StateBench 基准,按四个难度级别评测语言模型在长文档中追踪实体状态变化的能力。
Hugging Face 推出 Palette,一个经 LoRA 微调的 20B 开源权重模型,按 IBM Design Language 训练,学习“设计师+程序员”分工方式生成幻灯片,在 PresentBench 三个领域中的两个排名第一。
新论文"Weight Space Programming"提出让聪明的 LLM 直接读取并编辑较笨模型的神经网络权重,无需编写 PyTorch/Jax 代码即可一步修复 bug、按方向改进,甚至从零一次性写出整套网络权重并击败部分独立训练的模型,社区已有独立复现。
Collinear AI 推出 CWE-bench v2,公开 100 个网络安全任务,覆盖 91 种不同 CWE,评测完全程序化、结果可复现,任务均经人工审核。
安全团队 Parameter Labs 披露一个针对 ChatGPT HTML 预览沙箱 iframe 的复杂攻击链。沙箱 iframe 中的不可信代码可通过 MathLive 虚拟键盘的 postMessage 接口向父页面注入 HTML,再利用 CSP 白名单中的 YouTube oEmbed 端点反射执行 JavaScript,最终能窃取登录用户的私有数据或代其执行操作。
Elorian 联合数据公司 Mercor 发布 DecoyCount 基准,测试模型是否真正数对物体还是依赖视觉捷径。
Google Research 提出 sleep 框架,让 LLM 在清醒阶段交互学习、在离线睡眠阶段把短期上下文巩固为长期参数,从而持续学习且避免灾难性遗忘。
AI 安全公司 Resolution 用智能体自动形式化了 Hironaka 奇点消解,耗时约一周、消耗约 100B 输入 token 和 3 亿输出 token,花费约 13.5 万美元,产出约 60 万行 Lean 代码。
Google Research 在 IDWeek 2026 上分享其健康 AI 研究落地成果,从胸部 X 光 AI 筛查算法经前瞻验证与监管认证,发展为 MedGemma 等开放基础模型。
推荐理由:Google 回顾了从胸部影像算法到开放模型落地六国筛查的完整路径,可对照思考医疗 AI 从论文到临床的转化条件。
Google DeepMind 与 Google Research 联合 WRI 和 IIASA 发布 Forest Typology(ForTy)2020 全球地图,以 10 米分辨率把地表分为原始森林、天然更新林、人工林、种植园、经济林木及其他土地六类,并附 2017 至 2025 年逐年变化时间序列。
推荐理由:原文给出分类方法、验证规模和开放许可,读者可了解如何用 AI 遥感识别森林类型并服务欧盟毁林法规。
Google Research 在 JAMA Network Open 发表前瞻性研究,验证用 AI 解读盲扫超声评估孕周,在芝加哥 Northwestern Medicine 和内罗毕 Jacaranda Health 两地 385 名 16 至 36 周孕妇中取得 4.18 天平均绝对误差,非劣于专家超声医师标准方法的 4.48 天。
推荐理由:该研究在芝加哥和内罗毕两地前瞻性验证盲扫超声 AI 估孕周,结果显示非劣于专家标准,可参考其跨硬件泛化做法。
微软研究院机器学习与优化组的Xinzhi Zhang与合作者证明了1995年提出的Kannan–Lovász–Simonovits(KLS)猜想,证明对数凹分布的最优平面切割与任意形状最优切割之差被一个与维度无关的通用常数界定。
推荐理由:作者亲述人类主导的智能体搜索如何证明悬置31年的KLS猜想,对照无引导尝试的失败,可作为人机协作科研方法的参照。
Google Research 介绍三项研究,推动 AI 智能体在真实湿实验室中闭环做实验。VERID 是基于开源 PyLabRobot 的实验室数字孪生框架,提供实时 3D 状态跟踪、虚拟试运行、硬件安全检查和同步录像日志,让智能体在真实实验中把染料混合物重建精度提升五倍以上。
推荐理由:官方博文给出三条通往自主湿实验室的研究线,读者可看到智能体闭环实验在适配体和蛋白质设计上的具体数据。
Microsoft Research 发布零知识虚拟机 Magnetar,可直接证明用 Rust、Go 或 C 编写的 RISC-V 程序执行,无需密码学专家改写电路。
推荐理由:微软研究院展示的 Magnetar zkVM 只依赖标准哈希函数做安全基础,速度比同类最快系统平均快 10 到 39 倍,可与量子安全路线对照阅读。
Google Research 发布 Geospatial Reasoning 智能体的技术报告,在 CBGB、UnivEARTH 及两个自研新基准 GeoExpertQueries、GeoKTools 上系统评估了四种配置(基于 Gemini 3.8 Flash 和 Gemini 3.1 Pro)。
Microsoft Research 推出研究系统 StudentSim,通过从公开、去标识的学习者记录中训练个性化的 AI 学生模拟器,在真实学习者测试前评估和改进 AI 辅导工具。系统从行为保真度和指导响应性两个维度评估模拟器,并发布涵盖国际象棋、英语二语写作和数学的基准 StudentSimEval,StudentSim 在这三个领域均超越主流基线。该系统不用于课堂部署,也不旨在取代教师。
Elorian 与 Scale AI 发布视觉直觉推理基准 Humanity's Sixth Sense(HSS),含 522 道题、覆盖 288 张图片和 234 段共 17.6 小时的视频,人类 pass@1 达 93.1,而最佳 AI 系统 GPT 6 Astra 仅 53.6,GLM-5.3-flash 和 Kimi K3 分别只有 26.8 和 25.5。
Google Research 在 NBER 发表论文,在 11 家知识产权律所对 133 名律师开展三个月随机对照实验,测试未发布的 Google Labs AI 专利撰写助手(现已并入 Gemini Notebook)。
推荐理由:Google 团队用三个月随机对照实验区分了用 AI 做出更好工作与养成专业判断力两件事,对理解新手成长有直接参考价值。
GitHub 与 Microsoft 团队发布 AI 代码评审离线基准 ReviewBench,语料基于对 GitHub 上 1.039 亿个真实 pull request 的分布分析,收录来自 187 个开源仓库、覆盖 19 种语言的 219 个 pull request,数据集、评审 rubric、judge 提示词与自测 runner 全部公开。
推荐理由:基准数据集、评审规则和自测流程全部公开,做代码评审智能体的团队可以直接上手离线评估并对照排行榜迭代。
Google DeepMind 发表论文,用 100 个运行 Gemini 3.1 Pro 的自主 LLM 智能体求解 Formal Conjectures 数据集中的 71 道数学题。
IBM Research 与 UC Berkeley Sky Lab 合作,为进化式内核搜索框架 K-Search 新增 MLX 后端和结构化 CUDA-to-MLX 翻译层,把已有 CUDA 内核当作知识库适配到 Apple Silicon。
Berkeley AI Research 发文分析并行推理领域进展,重点是自适应并行推理(Adaptive Parallel Reasoning):让推理模型自行决定何时分解并并行化独立子任务、生成多少并发线程及如何协调。
Berkeley AI Research 的研究者(与 Mike Rabbat、Yann LeCun 等合作)提出基于梯度的规划器 GRASP,让学习式世界模型的长时域规划变得可行。
**summary_zh:** Berkeley AI Research 提出 SPEX(Spectral Explainer)与 ProxySPEX 算法,利用信号处理与编码理论在大规模下识别 LLM 中驱动模型行为的关键交互,覆盖特征归因、数据归因与模型组件归因三个层面。