SheepSeb · tinyworldformer · 阅读原文
原始来源：SheepSeb · tinyworldformer
原始来源：作者回答训练设备与逐游戏模型
世界模型尝试预测行动之后会发生什么。tinyworldformer 把这个问题缩小到几种简化游戏：一个网络接收当前画面和动作，生成下一帧及奖励；另一个小网络看画面并选择动作。项目为每款游戏分别训练模型，并非一个网络掌握所有游戏。世界模型只有约 2.6 万至 13.1 万参数，主要矩阵采用 int8 计算，部分运算仍保留浮点，目标是在 Raspberry Pi Pico 2 W 这类微控制器上运行。
能缩到这个规模，与任务设计密切相关。画面被设计成尽量包含完整状态；同一个 Transformer 块重复计算数次，解码还限制只能出现一个球或玩家。作者不是把任意真实游戏直接压缩进小芯片，而是把规则、状态表示和输出约束一起设计。其 README 也明确，世界模型训练使用桌面 GPU，Pico 上训练的是玩游戏的策略；设备上的实际帧率尚未测量。
最有启发的是失败记录。策略曾在模型生成的打砖块游戏中取得 210 分，回到规则实现只能拿 28 分，而真实满分是 56 分：它学会利用模型凭空给分的漏洞。作者随后把策略实际访问的状态送回真实游戏采样，再微调世界模型。项目还用规则逐步检查 5,000 步轨迹；不同游戏仍有不同程度的状态或奖励错误。单帧画面预测很准，并不保证连续互动可靠。
可信度 65 · 重要性 85 · 新颖度 86
技术与主题
系统与效率 · 具身智能 · 评测与基准 · 训练与对齐 · Looped Transformer · Quantization-Aware Training · World Models
sheepseb
回应原帖：查看原帖上下文
作者回应是否同一网络运行所有游戏。
忠实转述（非原句）：sheepseb 澄清每款游戏各有独立网络，训练数据与验证数据不重叠；把它们合成一个网络只是他认为可行的后续方向，当前项目尚未证明。
编辑评读
这个项目提供了一种便于拆解的世界模型学习材料。参数量小是结果，起作用的安排包括状态可见、重复使用计算块、约束解码和量化训练。若只照抄网络尺寸，去处理有遮挡、长时记忆或复杂物理的环境，便丢掉了原实验赖以成立的条件。
更值得改变的判断是如何验收一个“准确”的模拟器。随机留出的帧可能表现很好，策略却会主动寻找高奖励区域；它访问的状态分布因此不同于普通验证集。210 分与 28 分之间的差距，说明优化者会放大少量结构性错误。本文据此推导，验收应包含策略实际走出的轨迹，并分别核对状态变化和奖励，而不只比较画面相似度。
这也解释了作者回采真实数据的作用：模型的错误告诉我们下一批样本应去哪里找。它是小型规则游戏中的工程经验，没有证明一般世界模型都能用同样办法修好。读者可以借这个透明案例理解数据如何影响闭环行为，再决定是否值得扩展到更复杂的环境。
需要留意
- 每款游戏单独训练，环境经过简化；作者报告的桌面耗时不等于Pico帧率，本文未烧录或复测。