usehook
创建时间: 2026-04-18
最后更新: 2026-04-19
作者: yangbo
(fddd0a717)
1. 中间件:模型调用的「插拔层」
Hono 有中间件、Express 有中间件,AI SDK 也有中间件——只不过它挂在模型层,而不是 HTTP 层。
正在验证登录状态
请稍候,验证完成后将继续显示文章内容
1. 中间件:模型调用的「插拔层」
2. wrapLanguageModel 基础
3. 缓存中间件:相同问答复用
4. 限流中间件:按用户 / 按租户控制并发
5. Fallback 与 Retry 中间件
5.1 Fallback:一家挂了换下一家
5.2 Retry:短暂失败自动重试
6. 组合多个中间件
defaultSettingsMiddleware
7. 真实世界的中间件栈
8. 常见坑
Middleware 顺序错导致 cache 不生效
流式 Fallback 的半截流
Cache key 没考虑 tools
Middleware 吞错误
9. 小结
Previous
AI SDK × Hono
Next
可观测性:Telemetry
0
0
首页
顶部
目录
200 元 · 订阅
订阅