nicorobinreal · llmspeed · 阅读原文
发现渠道：Hacker News · LLM
获取渠道：原站公开正文
llmspeed 让用户选择硬件、模型与量化方式，模拟首 token 等待和后续输出速度，也可并排比较两套配置。项目区分 Measured（相同配置实测）、Derived（近似配置推算）和 Projected（按硬件规格预测），缺少实测时使用带宽与计算能力模型，并考虑上下文和部分卸载。它适合把抽象的 token/s 换成可感知的等待，但目前只模拟单设备。驱动、推理引擎和散热都会影响真实结果；预测项尤其不能当成购机实测。
编辑分析：这个小工具最有用的设计是让来源等级与数字一起出现。选型时先看是否装得下，再看是否真测过完全相同的组合；输出流动画不会提高底层估计的精度。本日报只检查了页面与 README，没有实跑任何硬件配置。
可信度 65 · 重要性 54 · 新颖度 58
技术与主题
系统与效率 · Local Inference · Quantization · TTFT
编辑评读
这个小工具最有用的设计是让来源等级与数字一起出现。选型时先看是否装得下，再看是否真测过完全相同的组合；输出流动画不会提高底层估计的精度。本日报只检查了页面与 README，没有实跑任何硬件配置。