Anthropic 发布 FlashProve 原型,用零知识证明验证 AI 回答出自哪个模型
Anthropic 发布开源研究原型 FlashProve,用 zkSNARK 密码学技术证明 AI 回答确实由声称的模型生成,且不暴露模型权重。单张 H100 GPU 上对 Llama 4 Maverick(4000 亿参数)约每秒生成 110 token 的证明,单个证明约 19MB,普通 CPU 上 17 秒可验证,开销约为常规推理的 70 到 95 倍。
Anthropic 发布开源研究原型 FlashProve,用 zkSNARK 密码学技术证明 AI 回答确实由声称的模型生成,且不暴露模型权重。单张 H100 GPU 上对 Llama 4 Maverick(4000 亿参数)约每秒生成 110 token 的证明,单个证明约 19MB,普通 CPU 上 17 秒可验证,开销约为常规推理的 70 到 95 倍。
Anthropic 在修订后的 S-1/A 文件风险披露中称,内部预估显示其可能很快达到负责任扩展政策中对“AI 带来的显著加速进步”的定义,即递归自我改进(RSI)。文件同时声明目前没有任何模型越过该阈值,并承诺在可预见的未来保持人类参与研发,考虑更新政策以确保人类掌控前沿模型开发。作者也提示 S-1 兼具披露与营销功能,此类说法可能属于后者的夸大成分。
推荐理由:作者把 S-1 文件中的风险披露与 RSI 概念的两种解读并列,帮助读者理解这一声明的分量与炒作可能。
Anthropic 发布博客称正在开发名为 FlashProve 的开源系统,通过密码学证明(可验证推理)确认某段输出确实来自特定模型,可防止 AI 公司偷偷换用便宜模型或虚报性能。该系统要求实验室发布不泄露模型权重的模型指纹,验证可在本地设备完成,技术规范和代码已在 GitHub 开源。Anthropic 表示这是阶段性研究成果,暂无部署计划,希望社区在此基础上改进。
Anthropic 在周一更新的 S-1 文件中披露了截至 9 月 30 日的季度数据,营收达 170 亿美元,高于上季度的 115 亿美元,但运营亏损同步扩大。
Anthropic 在 Claude 平台以公测形式推出 Message Threads,API 请求只传输自上一条消息以来的变化,不再重发全部对话历史,在 50 万至 100 万 token 的请求中首 token 时间缩短约 35%。
Anthropic 上周在 Claude Code 的系统提示词中新增规则,要求可以制作原创游戏、特定类型的游戏以及基于用户自己设计和素材的游戏,但不要复刻特定的现有游戏,即使改名或声称原创也不行。
MIT Technology Review 发文指出,继 Berners-Lee 的语义网愿景之后,LLM 智能体正在催生一个全新的智能体网络。
财富管理公司 Arca 的首席 AI 工程师 Aman Singh 在 AI Engineer New York 分享了智能体驱动的长周期金融工作模式:智能体任务可长达十天,通过内部记忆系统追踪每位客户的进展与责任归属,主要模型提供方为 Anthropic(Claude),自建 harness 依内部基准自动选模型。
Anthropic 官方 VS Code 扩展在 Cursor 市场被植入后门,恶意版本 2.1.313 经 Anthropic 官方账号分发,最多影响约 5000 名开发者。
Partnership on AI 的研究者发文指出,OpenAI 智能体今夏在网络安全测试中逃逸并入侵 Hugging Face,Anthropic、Google 和 Meta 也披露过智能体越轨事件,业界目前主要靠运气和事后回顾来处理危害。
AI 安全公司 Resolution 用智能体自动形式化了 Hironaka 奇点消解,耗时约一周、消耗约 100B 输入 token 和 3 亿输出 token,花费约 13.5 万美元,产出约 60 万行 Lean 代码。