值得学什么
从存入键值对后为何互相干扰，逐步推导线性存储、非线性门控和注意力；适合把熟悉的网络模块放到同一问题下理解。
准备
会矩阵乘法、内积与最小二乘的读者。
动手试试
自行生成64维随机单位键，逐步增加键值对，比较外积存储和最小二乘的检索误差；再把键改成相关向量，检查原文随机假设失效时会怎样。
阅读依据
实际读到外积记忆、串扰估计、最小二乘推导、MLP门控与注意力段落；未运行其代码或交互演示。
基础模型 · 检索与知识 · Associative Memory · Self-Attention · MLP