GPU-unlock 是面向部分 NVIDIA RTX 30 系显卡的 Linux 内核模块。它试图提高半精度浮点计算的指令发射速率,也就是单位时间能送入计算单元的运算数量。它在官方驱动接管显卡之前设置速率选择器并重置设备,随后仍使用未修改的 NVIDIA 驱动;作者强调,封装这段启动过程可以减少每次驱动更新后重新打补丁的麻烦。
项目给出 RTX 3090 Ti 在 450 W、8192³ 稠密矩阵乘法、FP32 累加条件下的五次测试中位数:BF16 从 87.50 增至 157.41 TFLOPS。这是矩阵计算吞吐,不是聊天模型的输出速度。语言模型先处理整段输入的 prefill 阶段,较容易受益于矩阵算力;随后逐个生成 token 的 decode 阶段,还可能主要受显存带宽限制。
用户报告把差别具体化了。robertoetcheverryr 的 RTX 3090 在 16K 输入上,处理速度从 2594 增至 3009 token/s,首 token 等待从 6.35 秒降至 5.48 秒;4K 输入处理与短输出生成基本不变。另一位用户的 GA102-250/RTX 3080 Ti 20 GB OEM 卡则在选择器写入成功后仍保持半速。型号、功率与工作负载都需要保留,不能把“解锁”这个日志状态当成收益。