输出控制:JSON、Citations 与缓存
除了“把 Claude 跑起来”,很多生产问题其实发生在输出层:要 稳定格式、要 可追溯引用、要 可控成本、还要 批处理吞吐。
推荐 Notebook(按常见问题域)
1) 稳定结构化输出
2) 引用与可追溯(Citations)
3) 成本与延迟:Prompt caching
4) 吞吐:Batch Processing
5) 安全:内容审核/过滤
6) 复杂长输出(可选)
7) Prompt 工程化(可选)
经验法则(更偏工程侧)
- 把“格式”当 API 合约:JSON 输出不要只靠提示词,最好配合工具/校验器做强约束与重试。
- 缓存不是银弹:prompt caching 适合“固定前缀 + 多次复用”的场景;先量化命中率再上生产。
- 批处理要有监控:batch 的“排队/失败/重试/结果回收”需要可观测性,否则很难定位吞吐瓶颈。