The Decoder· Matthias Bastian·· 1 天前AI 评分54
Anthropic 推出 Message Threads 公测,长对话首 token 时间缩短 35%
Anthropic's Message Threads cut time to first token by 35 percent for long conversations
AI 导读
Anthropic 在 Claude 平台以公测形式推出 Message Threads,API 请求只传输自上一条消息以来的变化,不再重发全部对话历史,在 50 万至 100 万 token 的请求中首 token 时间缩短约 35%。
来源:The Decoder · the-decoder.com