注意力机制观察 · 多约束叙事挑战
观察大语言模型生成文本时，注意力是如何动态分配的。逐词生成动画、由 AI 分析每个词应关注前文中哪些词、点击任意词语追踪它在生成过程中的注意力变化。
多约束叙事挑战：AI 生成候选文本，由"纪律委员、道德观察员、文风质检员"三重审核把关，全部通过才能写入，体验多角度审核机制。
每一行代表模型生成一个新词时，对前面所有词的注意力分配（每个词应关注哪些前文词，由 AI 分析得出）。
每一列代表同一个词，在不同生成步骤中获得的注意力分数。
颜色越深，表示模型在生成当前词时，越"关注"那个位置的词。
上方热力图中的注意力分布由 AI 分析推测；本档案则是 Qwen2.5-0.5B-Instruct 模型真实运行时逐层导出的注意力权重（模型共 24 层，此处展示第 6 / 12 / 23 层）。 矩阵为因果解码器的下三角：行 = 正在生成的 token，列 = 被关注的 token；每层给出 14 个注意力头的平均值和两个代表性注意力头，可来回切换对比。
AI 负责生成候选文本，但每一段都要经过三重审核才能写入正文：纪律委员（网页自动统计字数，少于250字）· 道德观察员（学生判断内容是否合适）· 文风质检员（学生判断风格是否达标）。 目标是协作写出一篇约 250 字的悬疑故事。请选择一种审核方式开始：
每次生成 一段候选文本。三项审核全部通过才能写入正文；任何一项否定都会丢弃该段、重新生成新候选，直到满足条件。
每次生成 A / B / C 三个候选方案。道德观察员先排除一个"最不合适的"，文风质检员再从剩余两个中排除一个，最后剩下的写入。