doubleAI 的 Maxwell 尝试把优化放在程序运行过程中:观察当前硬件、数据形状与类型,找到耗时部分,再生成适合该机器的底层二进制。源码保持原样,替换的是机器实际执行的代码。它与编程助手的分工不同:后者帮助写程序,前者希望根据运行时才知道的条件持续调整执行方式。官网称它同时覆盖 CPU 和 GPU,例如将 Python 运算换成低层实现,为 PyTorch 生成适合当前 GPU 的内核;产品仍处于 early access 阶段。
运行中自动换代码,首先要回答新旧行为是否相同。官网把做法描述为“同时生成优化代码与语义等价证明”:在规定输入和条件下,结果及外部效果都应保持一致,证明再由机器检查。页面用一个刻意简化的例子解释:双层循环逐次累加,可以换成 n×(n−1)÷2;但给出的替换代码使用有限范围整数,证明注明 0≤n≤3037000500,条件不满足时,由运行时的条件检查(guard)转回原代码。这个例子说明了条件与回退的作用,不代表完整 Python 运行时已由这段演示覆盖。
官网展示的演示让同一个 Python 脚本在同一块 RTX 4090 上从冷启动开始,用 Whisper-small 做 180 次转写,总时间从 106.23 秒降至 49.82 秒,展示的文本输出相同。它提供了一个具体速度样本,但“这些转写相同”“某个替换在明确条件下等价”“整个运行系统及其依赖可信”是三层承诺,不能互相替代。
合作方 LTX-2 的 1.5.0 更新记录还披露了与 doubleAI 的性能优化,包括算子、切块和数据精度相关变化,同时明确新旧版本并非逐比特一致。这不直接否定某个特定 Maxwell 替换的等价证明,却说明评价产品和合作版本时,需要分清到底要求文本结果相同、数值容差内相同,还是每个比特完全相同。