模型智选
为每个请求自动选择合适模型,在质量和成本之间取得平衡。
它如何工作
系统会按复杂度和任务类型匹配模型。简单问题走快速便宜的路径,重分析走更强模型。
它节省什么
没有路由时,很多人会把最强模型用于一切,简单任务上多花 5 到 10 倍。路由就是为了消除这种浪费。
需要时可以覆盖
如果你想要不同输出风格,或明确某个模型更适合当前任务,可以在会话中手动切换。
为每个请求自动选择合适模型,在质量和成本之间取得平衡。
系统会按复杂度和任务类型匹配模型。简单问题走快速便宜的路径,重分析走更强模型。
没有路由时,很多人会把最强模型用于一切,简单任务上多花 5 到 10 倍。路由就是为了消除这种浪费。
如果你想要不同输出风格,或明确某个模型更适合当前任务,可以在会话中手动切换。