跳到正文
11月4日周三
  1. The Decoder64

    Anthropic 发布 FlashProve 原型,用零知识证明验证 AI 回答出自哪个模型

    Anthropic 发布开源研究原型 FlashProve,用 zkSNARK 密码学技术证明 AI 回答确实由声称的模型生成,且不暴露模型权重。单张 H100 GPU 上对 Llama 4 Maverick(4000 亿参数)约每秒生成 110 token 的证明,单个证明约 19MB,普通 CPU 上 17 秒可验证,开销约为常规推理的 70 到 95 倍。

  2. TechCrunch · AI56

    Anthropic 研究可验证 AI 模型身份的开源系统 FlashProve

    Anthropic 发布博客称正在开发名为 FlashProve 的开源系统,通过密码学证明(可验证推理)确认某段输出确实来自特定模型,可防止 AI 公司偷偷换用便宜模型或虚报性能。该系统要求实验室发布不泄露模型权重的模型指纹,验证可在本地设备完成,技术规范和代码已在 GitHub 开源。Anthropic 表示这是阶段性研究成果,暂无部署计划,希望社区在此基础上改进。

11月3日周二
11月1日周日
  1. Simon Willison65

    Parameter Labs 披露如何接管 ChatGPT 账户的漏洞攻击链

    安全团队 Parameter Labs 披露一个针对 ChatGPT HTML 预览沙箱 iframe 的复杂攻击链。沙箱 iframe 中的不可信代码可通过 MathLive 虚拟键盘的 postMessage 接口向父页面注入 HTML,再利用 CSP 白名单中的 YouTube oEmbed 端点反射执行 JavaScript,最终能窃取登录用户的私有数据或代其执行操作。

10月30日周五
10月28日周三
10月26日周一
10月24日周六
10月22日周四
  1. Google DeepMind63

    Google DeepMind 联合发布全球森林类型地图 ForTy 2020

    Google DeepMind 与 Google Research 联合 WRI 和 IIASA 发布 Forest Typology(ForTy)2020 全球地图,以 10 米分辨率把地表分为原始森林、天然更新林、人工林、种植园、经济林木及其他土地六类,并附 2017 至 2025 年逐年变化时间序列。

    推荐理由:原文给出分类方法、验证规模和开放许可,读者可了解如何用 AI 遥感识别森林类型并服务欧盟毁林法规。

  2. Google Research60

    Google Research 发布 AI 盲扫超声孕周评估研究,准确度非劣于专家操作

    Google Research 在 JAMA Network Open 发表前瞻性研究,验证用 AI 解读盲扫超声评估孕周,在芝加哥 Northwestern Medicine 和内罗毕 Jacaranda Health 两地 385 名 16 至 36 周孕妇中取得 4.18 天平均绝对误差,非劣于专家超声医师标准方法的 4.48 天。

    推荐理由:该研究在芝加哥和内罗毕两地前瞻性验证盲扫超声 AI 估孕周,结果显示非劣于专家标准,可参考其跨硬件泛化做法。

  3. Microsoft Research85

    微软研究院等证明KLS猜想,解决高维几何领域31年悬而未决的核心难题

    微软研究院机器学习与优化组的Xinzhi Zhang与合作者证明了1995年提出的Kannan–Lovász–Simonovits(KLS)猜想,证明对数凹分布的最优平面切割与任意形状最优切割之差被一个与维度无关的通用常数界定。

    推荐理由:作者亲述人类主导的智能体搜索如何证明悬置31年的KLS猜想,对照无引导尝试的失败,可作为人机协作科研方法的参照。

10月17日周六
  1. Google Research60

    Google Research 发布自主湿实验室研究:VERID 框架与智能体闭环生物实验

    Google Research 介绍三项研究,推动 AI 智能体在真实湿实验室中闭环做实验。VERID 是基于开源 PyLabRobot 的实验室数字孪生框架,提供实时 3D 状态跟踪、虚拟试运行、硬件安全检查和同步录像日志,让智能体在真实实验中把染料混合物重建精度提升五倍以上。

    推荐理由:官方博文给出三条通往自主湿实验室的研究线,读者可看到智能体闭环实验在适配体和蛋白质设计上的具体数据。

10月16日周五
  1. Microsoft Research60

    Microsoft Research 发布零知识虚拟机 Magnetar,通用程序可证执行提速 10 至 39 倍

    Microsoft Research 发布零知识虚拟机 Magnetar,可直接证明用 Rust、Go 或 C 编写的 RISC-V 程序执行,无需密码学专家改写电路。

    推荐理由:微软研究院展示的 Magnetar zkVM 只依赖标准哈希函数做安全基础,速度比同类最快系统平均快 10 到 39 倍,可与量子安全路线对照阅读。

10月15日周四
10月13日周二
  1. Microsoft Research46

    Microsoft Research 推出研究系统 StudentSim:用 AI 学生模拟器改进 AI 辅导

    Microsoft Research 推出研究系统 StudentSim,通过从公开、去标识的学习者记录中训练个性化的 AI 学生模拟器,在真实学习者测试前评估和改进 AI 辅导工具。系统从行为保真度和指导响应性两个维度评估模拟器,并发布涵盖国际象棋、英语二语写作和数学的基准 StudentSimEval,StudentSim 在这三个领域均超越主流基线。该系统不用于课堂部署,也不旨在取代教师。

10月12日周一
10月8日周四
  1. Google Research74

    Google 研究显示 AI 提升专利律师即期产出但未加速初级律师判断力养成

    Google Research 在 NBER 发表论文,在 11 家知识产权律所对 133 名律师开展三个月随机对照实验,测试未发布的 Google Labs AI 专利撰写助手(现已并入 Gemini Notebook)。

    推荐理由:Google 团队用三个月随机对照实验区分了用 AI 做出更好工作与养成专业判断力两件事,对理解新手成长有直接参考价值。

10月5日周一
  1. GitHub Blog · AI & ML61

    GitHub 发布开源 AI 代码评审基准 ReviewBench

    GitHub 与 Microsoft 团队发布 AI 代码评审离线基准 ReviewBench,语料基于对 GitHub 上 1.039 亿个真实 pull request 的分布分析,收录来自 187 个开源仓库、覆盖 19 种语言的 219 个 pull request,数据集、评审 rubric、judge 提示词与自测 runner 全部公开。

    推荐理由:基准数据集、评审规则和自测流程全部公开,做代码评审智能体的团队可以直接上手离线评估并对照排行榜迭代。

9月7日周一
7月29日周三
5月8日周五
4月20日周一
3月13日周五