Zagitta · GitHub 项目与用户问题记录 · 阅读原文
原始来源：Zagitta · GitHub 项目与用户问题记录
发现渠道：Hacker News 热点发现
GPU-unlock 是面向部分 NVIDIA RTX 30 系显卡的 Linux 内核模块。它试图提高半精度浮点计算的指令发射速率，也就是单位时间能送入计算单元的运算数量。它在官方驱动接管显卡之前设置速率选择器并重置设备，随后仍使用未修改的 NVIDIA 驱动；作者强调，封装这段启动过程可以减少每次驱动更新后重新打补丁的麻烦。
项目给出 RTX 3090 Ti 在 450 W、8192³ 稠密矩阵乘法、FP32 累加条件下的五次测试中位数：BF16 从 87.50 增至 157.41 TFLOPS。这是矩阵计算吞吐，不是聊天模型的输出速度。语言模型先处理整段输入的 prefill 阶段，较容易受益于矩阵算力；随后逐个生成 token 的 decode 阶段，还可能主要受显存带宽限制。
用户报告把差别具体化了。robertoetcheverryr 的 RTX 3090 在 16K 输入上，处理速度从 2594 增至 3009 token/s，首 token 等待从 6.35 秒降至 5.48 秒；4K 输入处理与短输出生成基本不变。另一位用户的 GA102-250／RTX 3080 Ti 20 GB OEM 卡则在选择器写入成功后仍保持半速。型号、功率与工作负载都需要保留，不能把“解锁”这个日志状态当成收益。
可信度 65 · 重要性 78 · 新颖度 74
技术与主题
系统与效率 · BF16 · Tensor Cores · Prefill · GPU Kernel
Zagitta
作者在项目的 HN 讨论中解释工程取舍。
忠实转述（非原句）：作者说明，底层利用办法并非由他提出；他的工作是把已有方法包装成较少折腾的启动模块。他也厌倦不断修改驱动，希望后续把其他系列纳入同样的路径。
robertoetcheverryr
Debian 13、Zotac RTX 3090、350 W 上限的个人兼容性报告；不是统一实验室复测。
忠实转述（非原句）：他先报告安装与驱动加载正常，再给出矩阵吞吐和 Strata 的不同长度测试。收益主要出现在16K输入处理，4K输入处理和短输出没有同等变化；这些细项比单个峰值更接近他的实际使用。
3615074213
GA102-250 OEM 卡未获得 BF16 提速的排查记录。
忠实转述（非原句）：他确认选择器没有被驱动恢复，又在约203 W的固定频率条件下检查，结果仍符合半速计算。因而他追问，这个芯片是否还有另一条限制路径，或应该明确列为不受支持的型号。虽然没有获得提速，他仍肯定工具和其他报告使问题更容易诊断。
编辑评读
最有用的新能力，是让一部分已有显卡的计算资源更充分地参与工作；但选型时应该先识别自己的等待发生在哪一段。如果长文档进入模型前的处理占大头，prefill 的改善可能直接缩短等待；如果主要时间花在很长的输出，矩阵测试的大幅上涨就未必改变体验。把两段时间分开，能避免为了一个不占主要时间的环节承担额外维护工作。
失败报告尤其有价值：写入值在驱动加载后仍存在，说明“驱动把设置改回去”不足以解释这块卡没有变快。用户还用较低固定频率排查功率限制，留下了更具体的硬件适配问题。这不是对所有卡无效的反证，而是提醒验证需要走到目标运算本身。下一步值得比较同一台机器、同一软件栈的前后运行，并保留输出一致性和长时间状态；本刊没有安装模块或执行这些实验。
核查依据
- README给出模块机制与3090 Ti矩阵测试；个人兼容性记录分别给出实际负载收益或无提速条件。
- README给出模块机制与3090 Ti矩阵测试；个人兼容性记录分别给出实际负载收益或无提速条件。
- README给出模块机制与3090 Ti矩阵测试；个人兼容性记录分别给出实际负载收益或无提速条件。