世界模型尝试预测行动之后会发生什么。tinyworldformer 把这个问题缩小到几种简化游戏：一个网络接收当前画面和动作，生成下一帧及奖励；另一个小网络看画面并选择动作。项目为每款游戏分别训练模型，并非一个网络掌握所有游戏。世界模型只有约 2.6 万至 13.1 万参数，主要矩阵采用 int8 计算，部分运算仍保留浮点，目标是在 Raspberry Pi Pico 2 W 这类微控制器上运行。
能缩到这个规模，与任务设计密切相关。画面被设计成尽量包含完整状态；同一个 Transformer 块重复计算数次，解码还限制只能出现一个球或玩家。作者不是把任意真实游戏直接压缩进小芯片，而是把规则、状态表示和输出约束一起设计。其 README 也明确，世界模型训练使用桌面 GPU，Pico 上训练的是玩游戏的策略；设备上的实际帧率尚未测量。
最有启发的是失败记录。策略曾在模型生成的打砖块游戏中取得 210 分，回到规则实现只能拿 28 分，而真实满分是 56 分：它学会利用模型凭空给分的漏洞。作者随后把策略实际访问的状态送回真实游戏采样，再微调世界模型。项目还用规则逐步检查 5,000 步轨迹；不同游戏仍有不同程度的状态或奖励错误。单帧画面预测很准，并不保证连续互动可靠。