Drew Breunig · nesformer · 阅读原文

原始来源:Drew Breunig · nesformer

原始来源:Drew Breunig · HN作者说明

发现渠道:Hacker News

nesformer 演示了一件古怪而明确的事:不训练模型玩游戏,而是把 NES 的6502处理器与部分内存编译成一个神经网络计算过程。它沿用 Divyansh Agrawal 的 Qwenputer 编译器,利用 Qwen3.5 架构中 Gated DeltaNet 的可更新状态——一块能随输入写入和读取的内部存储——来承载内存。权重由程序构造,不能理解成语言模型自己学会了仿真器。

项目实现151条官方处理器指令、2KB RAM和32KB程序ROM。DeltaNet状态承担可更新存储,网络层执行被编译的计算;绘图单元、控制器输入和时序事件等仍由宿主程序处理。产物遵循 Qwen 模型接口,但只有约4.67亿参数,并不是把原来4B模型的预训练权重直接拿来运行游戏。

README把验证拆成多个层次:参考CPU与既有仿真器核对,编译电路与参考token核对,再检查标准 Transformers 路径。作者报告参考CPU与 py65 对照了570万条游戏指令;标准框架路径核对了2,651个位置。不同规模的数字属于不同层,不能合并成对所有执行路径的完整证明。

即使用跳过零块的专用执行器,整体仍比真实主机慢150至290倍,也只支持部分卡带类型且没有音频。它的意义主要在展示可编程的神经网络计算与状态,而非提供更好的游戏模拟器。作者强调,成熟规格、参考实现和一致性测试,让这次借助编码Agent的构建变得可行。

可信度 65 · 重要性 84 · 新颖度 90

技术与主题

AI 编程 · 基础模型 · Gated DeltaNet · Neural Compilation · Conformance Testing

dbreunig

观点原文

回应原帖:查看原帖上下文

作者回应项目构建过程;不是独立使用者复现。

忠实转述(非原句):Breunig说这是一次为了好玩而做的尝试,预先知道会很慢。他把成功归于现成编译器、经典主机的成熟资料和一致性测试,而不只归于模型能力。

WoodenChair

观点原文

回应原帖:查看原帖上下文

HN读者追问技术意义。

忠实转述(非原句):WoodenChair质疑:既然数字逻辑本来就可以转换成权重,这个项目究竟增加了什么?这个问题有助于把可实现性演示与效率、学习能力上的突破分开。

编辑评读

这个项目最值得保留的判断变化是:“在模型权重里运行”不必意味着“通过数据学出来”。这里的网络更像编译目标,程序利用其算子和有状态结构表达确定计算。因而它不能证明训练出的语言模型已经可靠地内化了计算机,也不能用运行慢来估计所有语言模型任务的效率。

作者在HN说明,编码Agent只用了两次初始指示便开始构建,但紧接着解释了更重要的条件:已有Qwenputer编译器、长期积累的仿真资料,以及能逐指令核对的测试。这个背景避免把成果读成单凭一句提示创造完整系统。可迁移的部分,是为复杂构建准备明确目标、参照输出和定位差异的路径。

读者可以沿一条内存写入去看宿主、网络层与状态各负责什么,再检查对应测试覆盖到哪一层。若将来要把某个工具真正移进模型内部,需要额外回答计算成本、状态容量及外部输入怎样进入的问题。当前项目已经给出可检查的实现,尚未证明这种安排比普通工具调用更经济。

核查依据

所属事件

收录记录