The Decoder· Matthias Bastian·· 4 小时前AI 评分67
Anthropic 在 Claude 平台公测 Message Threads,长对话首 token 时间缩短约 35%
Anthropic's Message Threads cut time to first token by 35 percent for long conversations
AI 导读
Anthropic 在 Claude 平台推出 Message Threads 公测,长对话请求的首 token 时间约缩短 35%。该功能只传输自上一条消息以来的变化内容,适用于 500,000 至一百万 tokens 的请求;token 用量不变,因为 Claude 仍会读取完整对话历史。
来源:The Decoder · the-decoder.com