技术方向
让 AI 可控、可信、不被滥用：越狱与防御、模型行为研究、安全评测与治理框架。
6 条精选近 30 天 6 条共收录 28 条
Anthropic 在修订后的 S-1/A 文件风险披露中称，内部预估显示其可能很快达到负责任扩展政策中对“AI 带来的显著加速进步”的定义，即递归自我改进（RSI）。文件同时声明目前没有任何模型越过该阈值，并承诺在可预见的未来保持人类参与研发，考虑更新政策以确保人类掌控前沿模型开发。作者也提示 S-1 兼具披露与营销功能，此类说法可能属于后者的夸大成分。
推荐理由：作者把 S-1 文件中的风险披露与 RSI 概念的两种解读并列，帮助读者理解这一声明的分量与炒作可能。
Mistral AI 正式发布 1 万亿参数原生多模态模型 Mistral Large 4（代号 Le Chonk）的开源权重。
推荐理由：官方给出编码、防御安全和推理效率的完整基准对比与三档推理模式定价，便于评估开源权重模型的经济性。
Google DeepMind 发布 Gemini 4 Carbon，称其为最强模型，主打网络安全与长时程任务能力，在 Artificial Analysis Intelligence Index v5.0 上以 59 分排名第一。
推荐理由：官方给出了完整的基准数据与安全对齐改进，读者可以对照 Argon 衡量这代模型在编码和网络安全上的实际进步。
Microsoft Research 发布零知识虚拟机 Magnetar，可直接证明用 Rust、Go 或 C 编写的 RISC-V 程序执行，无需密码学专家改写电路。
推荐理由：微软研究院展示的 Magnetar zkVM 只依赖标准哈希函数做安全基础，速度比同类最快系统平均快 10 到 39 倍，可与量子安全路线对照阅读。
Google DeepMind 宣布广泛推出 Gemini 4 Argon，并发布安全与安保报告。模型在 12 个端到端模拟网络攻击场景中全部解决，上一代仅解决 5 个；因网络与生物领域能力提升，公司部署了新一代前沿安全防护。
推荐理由：官方详述新模型的安全护栏设计，包括三层实时防护和思维链监控，可对照自家系统的安全实践借鉴。
GitHub 博客介绍与 Microsoft Applied Sciences 合作微调的 ModernBERT 分类器，可在两毫秒内评估候选密钥，将 push protection 扩展到无固定模式的非结构化秘密，可拦截的秘密数量有望翻倍以上。
推荐理由：作者用九个季度数据说明开发者并未因 Agent 变得更粗心，并给出新的检测模型如何以低延迟拦截更多泄露，可对照自家安全流程参考。