跳到正文

技术方向

部署工程 最新动态

怎么把模型跑得更快更省钱:推理加速、显存与成本、服务部署与基础设施选型。

3 条精选近 30 天 3 条共收录 32 条

更新

部署工程的精选

10月20日周二第 1–3 条
10月16日周五
  1. Microsoft Research60

    Microsoft Research 发布零知识虚拟机 Magnetar,通用程序可证执行提速 10 至 39 倍

    Microsoft Research 发布零知识虚拟机 Magnetar,可直接证明用 Rust、Go 或 C 编写的 RISC-V 程序执行,无需密码学专家改写电路。

    推荐理由:微软研究院展示的 Magnetar zkVM 只依赖标准哈希函数做安全基础,速度比同类最快系统平均快 10 到 39 倍,可与量子安全路线对照阅读。

10月8日周四
  1. GitHub Blog · AI & ML67

    GitHub 发布 AI 秘密检测模型,扩展 push protection 覆盖非结构化密钥

    GitHub 博客介绍与 Microsoft Applied Sciences 合作微调的 ModernBERT 分类器,可在两毫秒内评估候选密钥,将 push protection 扩展到无固定模式的非结构化秘密,可拦截的秘密数量有望翻倍以上。

    推荐理由:作者用九个季度数据说明开发者并未因 Agent 变得更粗心,并给出新的检测模型如何以低延迟拦截更多泄露,可对照自家安全流程参考。