Anthropic 研究可验证 AI 模型身份的开源系统 FlashProve
Anthropic 发布博客称正在开发名为 FlashProve 的开源系统,通过密码学证明(可验证推理)确认某段输出确实来自特定模型,可防止 AI 公司偷偷换用便宜模型或虚报性能。该系统要求实验室发布不泄露模型权重的模型指纹,验证可在本地设备完成,技术规范和代码已在 GitHub 开源。Anthropic 表示这是阶段性研究成果,暂无部署计划,希望社区在此基础上改进。
Anthropic 发布博客称正在开发名为 FlashProve 的开源系统,通过密码学证明(可验证推理)确认某段输出确实来自特定模型,可防止 AI 公司偷偷换用便宜模型或虚报性能。该系统要求实验室发布不泄露模型权重的模型指纹,验证可在本地设备完成,技术规范和代码已在 GitHub 开源。Anthropic 表示这是阶段性研究成果,暂无部署计划,希望社区在此基础上改进。
Simon Willison 复现论文 Sparks of Weight-Space Programming 的实验,让运行在自家笔记本上的 Qwen 3.8 27B 仅凭浮点数权重、无任何工具地识别模型训练玩的游戏,成功认出 Pac-Man、Pong 和 Breakout,但在较冷门的 Freeway 上失败。
Mistral AI 发布首个时间序列基础模型家族 Timestral,提供 5M、28M、123M 和 209M 四种参数规模,最大模型在 GIFT-Eval、TIME 和 fev-bench 三大公开基准上排名第一。
GitHub 博客介绍与 Microsoft Applied Sciences 合作微调的 ModernBERT 分类器,可在两毫秒内评估候选密钥,将 push protection 扩展到无固定模式的非结构化秘密,可拦截的秘密数量有望翻倍以上。
推荐理由:作者用九个季度数据说明开发者并未因 Agent 变得更粗心,并给出新的检测模型如何以低延迟拦截更多泄露,可对照自家安全流程参考。
GitHub Copilot 应用中的 canvases(画布扩展)是用户与智能体共享的可定制双向界面,可用作看板、问题分流板、发布清单或仪表盘。用户在智能体会话中输入 /create-canvas 并用自然语言描述需求,智能体即可自动生成界面并显示在右侧面板,后续可继续添加列、筛选器或拉取未合并的 pull request 进行调整。
**summary_zh:** Berkeley AI Research 提出 SPEX(Spectral Explainer)与 ProxySPEX 算法,利用信号处理与编码理论在大规模下识别 LLM 中驱动模型行为的关键交互,覆盖特征归因、数据归因与模型组件归因三个层面。