llmspeed 让用户选择硬件、模型与量化方式,模拟首 token 等待和后续输出速度,也可并排比较两套配置。项目区分 Measured(相同配置实测)、Derived(近似配置推算)和 Projected(按硬件规格预测),缺少实测时使用带宽与计算能力模型,并考虑上下文和部分卸载。它适合把抽象的 token/s 换成可感知的等待,但目前只模拟单设备。驱动、推理引擎和散热都会影响真实结果;预测项尤其不能当成购机实测。
编辑分析:这个小工具最有用的设计是让来源等级与数字一起出现。选型时先看是否装得下,再看是否真测过完全相同的组合;输出流动画不会提高底层估计的精度。本日报只检查了页面与 README,没有实跑任何硬件配置。