每个 Kernel，
为什么不能更快？

先定位整条流水线的等待与关键路径

校验 Nsight Systems、Nsight Compute、驱动、权限与多进程捕获能力。记录 GPU 共享负载、时钟、功耗、温度与拓扑；受外部任务干扰的样本保留标记并另行重测。使用已授权四卡；8 卡最低优先级。

当前限制：本机 NCU probe 返回 ERR_NVGPUCTRPERM。硬件计数器归因需管理员授权；不修改共享驱动策略。可先做时间线、shape 捕获和干净计时，但不能用这些替代 NCU 计数器，未取得的指标标 missing。

建立完整 Kernel inventory，不只列 Top 10

保留每次 kernel invocation；按 kernel 名称 + shape + dtype + stride / layout + 阶段 + backend + 并行上下文分组。融合 kernel 保留原始算子映射；同名不同 shape 不混合。

回答“为什么不能更快”，并设计反证实验

Nsight Compute 对每个代表性组采集适用计数器；CUPTI 可用于补充关联。记录工具版本与本机支持的实际 metric 名称，权限不足不得写成零。

每组输出：主 / 次瓶颈、计数器证据、替代解释、对照结果、可达到的上限区间、优化动作、预计端到端收益和置信度。不能仅凭某个 stall 或 occupancy 数值下结论。

计数器 replay 可能改变缓存、并发与运行时间。保留 replay 配置，对照完整上下文与 isolated replay；多 rank 通信使用兼容捕获方案。最终时延只取关闭 profiler 的实跑。

并行策略改变了输入，后端排名必须重新测

先从实跑导出每个 rank 的真实 attention 输入，再构建 replay。不能只按分辨率猜序列长度，也不能假定 TP / SP 只等比例切分一个维度。

源码发现：LingBot paged self-attention 绕过通用 Attention 后端选择器；在 LINGBOT_KV_GATHER=1 时先 gather KV，再调用 vLLM FlashAttention varlen。仅修改通用 backend 参数不是有效 self-attention A/B。Cross-attention 必须单独捕获和验证 dispatch。

把同一分析方法扩展到主要算子族

根据 K1 的累计耗时和关键路径影响选优先级，但保持全量账本。GEMM / projection / MLP 扫 M、N、K 和 dtype；卷积扫实际时空维度、通道、stride 与 layout；Norm / RoPE / residual / activation 扫元素数和融合组合；copy / transpose / cache 扫字节、stride 和 cache 状态；NCCL 扫消息大小、rank 数与拓扑。

每个性能点绑定可复现 replay、原始输入元数据和计数器报告；同精度同语义才比较速度。不同算法、精度或输出质量用独立系列。

以关键路径收益排序，不按局部 MFU 排序

先单变量 A/B，再组合优化；比较优化前后正确性、峰值显存、各 rank 时间、关键路径、P95 / P99 和有效 FPS。保留回滚版本。局部加速若被重排、通信、同步或其他阶段抵消，明确记录“局部有效，端到端无收益”。

用测量到的占比与可改善部分估计收益上限，并解释重叠导致的偏差。目标是找出达到 FPS > 12 的可验证配置与剩余差距，不给任何单一组件预设耗时预算。

核验实现，而不是照抄开关

产物 optimization_transfer_matrix.json：reference_url / inspected_sha / local_symbol / preconditions / already_enabled / hypothesis / experiment_id / rejection_reason。外部 PR 网页状态不能代替本地源码核验。

少搬一次数据，是否比换 Attention kernel 更重要？

在 A0 的相同 QKV、缓存长度、TP/SP 配置下，比较当前 gather + attention、直接 paged、受支持的替代 dense 后端；再独立比较当前 all-to-all 与兼容的布局融合 / transport。不能同时改变后端、精度和通信来宣称单项收益。

• 测量有效 token 与 padding token 的 FLOPs，gather / pack / transpose 字节、临时 HBM、NCCL payload、rank skew、SM 占用和通信暴露时间。
• 依次 A/B：只换后端 → 只减重排 → 只换 transport → 合并胜出项；保持 KV owning storage、slot 写入、历史可见性和 clean commit 语义。
• 证伪：重排减少但注意力访存变差，或通信更快却占用更多 SM，造成集成时间不降。输出“局部加速 / 集成无收益”，不隐藏失败配置。

只有实际出现的 kernel 才进入融合候选

按 inventory 核验 Norm、RoPE、modulation、residual、activation 与投影的邻接关系；先检查 torch.compile 是否已融合，避免重复开发。SwiGLU 仅在真实激活语义匹配时比较，不能替换模型激活。

• 对相同张量比较当前实现与单个融合候选，记录 launch 数、DRAM 字节、寄存器、spill、occupancy 和有效吞吐。检查 FP32 累积、epsilon、广播和 residual 精度。
• 检查 embedding / RoPE / 输出投影是否可以只构造 rank-local 数据或在较小表示上通信；先证明数学等价与分片边界，不假定 H3 的张量维度适用于 LingBot。
• 证伪：减少 launch 却增加寄存器压力、重复计算或 graph break；报告 isolated 与完整 chunk 的差异。输出 fusion on/off × shape × dtype 的延迟、MFU 和字节图。

先完成解码 kernel 归因，再决定改哪里

本地 H3 adapter 的 decoder 专用优化包含权重 materialization 与融合路径；LingBot Case D 则是 FP32、untiled、四 rank 宽度空间分片。两者不是同一 decoder，不把 H3 tile parallel 当作可直接替换的实现。

1. 以同一组保存的 latent 对照串行参考与 Case D；逐块列出卷积、Norm、上采样、激活、拼接、halo、gather、布局转换和分配，不遗漏编码侧出现的 kernel。
2. 先测每组耗时、MFU / 带宽、tile 利用率、workspace、重复 cast / contiguous 和 rank 不均衡；确定计算、访存、halo 或同步的主因。
3. 按证据做独立实验：编译 / 融合、稳定 layout、消除重复 materialization、halo 打包、缓冲复用；只有存在合法实现时才比较 tile 或其他空间划分，并保留边界正确性检查。
4. 主线保留 FP32 语义。更低精度是独立质量实验，不能借 H3 的精度约定将 Wan decoder 强制转 FP16 后标为等价优化。
5. 同 latent 数值误差、空间接缝、时间连续性和 chunk cache 检查通过后，再做完整 rollout。局部 decode 加速还须考虑 halo / gather / conversion / D2H 总成本。

图谱：卷积实际时空尺寸 / 通道 × kernel 时间 / MFU；并行粒度 × 计算 / halo / gather 暴露时间；显存–延迟 Pareto。预算由完整关键路径反推，不预设解码耗时阈值。

按字节核对每一份输出，而不是只计 decode

Case D 已以 CPU-ready uint8 为边界，因此先盘点现有转换，不能重复认领已有压缩收益。为每次 FP32 / uint8、BCTHW / BTHWC、device / host / IPC 转换建立生产者与消费者表。

• 比较同一已解码张量的当前输出路径与候选：转换融合、避免重复 contiguous、pinned D2H、复用 staging buffer。计实际 payload、CPU copy、分配次数、GPU copy engine 活跃与等待。
• 分别计 GPU-ready、CPU-ready、跨进程接收、编码完成；编码实验固定编码器、线程数、像素格式、质量参数及 CPU affinity，避免把质量降低计为吞吐优化。
• 校验 clip / round / channel order、帧序和媒体可解码性；有损编码不要求压缩文件字节相同，但必须在固定设置下比较解码帧与质量。

从逐段串行到可审计的分块依赖图

先保存串行基线，再比较 decode 与 D2H、D2H 与 IPC / encode 的单对重叠，最后组合。DiT 与 VAE 共用四卡时，另测资源争用，不能假定异步就更快。只改变调度，不改变模型计算。

• 定义 chunk_id、CUDA event、buffer owner、完成信号、有限队列和背压；测试慢消费者、错误退出、取消、末块 flush、首块 fill、帧丢失 / 重复和状态泄漏。
• 用 Nsys 显示真实 overlap、SM / copy engine 争用、队列等待与关键路径；分别比较 TTFC、P95 / P99、rollout FPS 和完整服务时间。
• 根据可重叠区间求收益上限，不能相加阶段时长或引用外部收益百分比。若收益被争用 / buffer 成本抵消，则保留串行实现并说明原因。