TokenRouter 将 token 级模型路由与运行时调度分开：开发者描述单次请求何时切换模型，系统处理异步执行和批次安排。它关注细粒度切换带来的等待、批处理损失，以及路由收益能否真正转成运行收益。论文附有代码；本期作为方法线索，不将作者报告的加速幅度外推到其他工作负载。
持续追踪
持续追踪
TokenRouter 将 token 级模型路由与运行时调度分开：开发者描述单次请求何时切换模型，系统处理异步执行和批次安排。它关注细粒度切换带来的等待、批处理损失，以及路由收益能否真正转成运行收益。论文附有代码；本期作为方法线索，不将作者报告的加速幅度外推到其他工作负载。