← 返回 Blog

算得更少,不等于用户等得更短

视频生成的一次提速实验提醒我们:少做计算只是起点。产品验收还要看,从点击生成到拿到可用结果,用户究竟少等了多久。

一段蓝色计算路径被缩短,但从提交到拿到结果的完整路径仍经过多个等待节点
文章目录

用户等的是一条能用的视频#

假设一个电商运营要在发布前生成商品短片。系统告诉他“计算效率提升了”,但他仍然要排队、等待生成、检查画面,再决定是否重做。只要其中一步没有完成,这次任务就还没结束。

这是一个假设场景。它让性能优化有了更明确的验收问题:用户从点击生成,到拿到一条能用的视频,究竟少等了多久?

我认为,产品经理应该把这个问题写进提速需求。否则,团队很容易交付一个更漂亮的技术数字,却说不清用户是否真的更早完成了工作。

一次先变慢、再变快的实验#

Google 的视频生成实验中,理论上跳过约 61% 的注意力关联,局部耗时却从 78.70 毫秒增至 96.37 毫秒。调整执行方式后,这一环节才实现 2.40 倍加速。官方文章

团队跳过无需计算的整块、减少重复检查,并调整保留关联的边界;最终输出未必与原方案相同。

注意力可以简单理解为模型判断画面信息之间关系的过程。少安排一些关联计算,并不保证机器实际工作时就能省下相应时间。

在更完整的 720p 视频去噪测试中,耗时从 153.50 秒降至 119.86 秒,约减少 22%。这里的去噪是逐步生成画面的过程,仍不等于用户从提交到拿到成片的全部等待。

对我而言,这组结果最值得带进需求评审的,是测量范围必须与承诺范围一致。局部快了,值得继续做;要承诺“生成更快”,还需要补上产品里的完整测试。

把计时终点放在“结果可用”#

以下是本文的产品建议,不是 Google 已验证的业务结论。

仍以上面的商品短片为例,我会保留两组记录:一组用于工程定位,拆开排队、生成、文件处理和交付;另一组面向用户任务,从提交开始,直到拿到符合要求的结果。

如果第一次生成失败,自动重试的时间应该留在同一次任务里。如果用户发现商品外观不对而重新生成,也需要单独记录原因和累计等待。不能把失败的一次从报表里删掉,再用成功的那一次证明产品变快。

“可用”还需要提前约定。对于商品短片,可以检查商品外观是否准确、动作是否连贯、画面能否正常播放。这些条件是该场景的验收建议,换成创意草图工具,标准可能不同。

完整计时从提交开始,经过排队、生成、文件交付和质量检查;检查未通过时记录重试,直到得到可用结果
本文的验收流程建议。方框表示检查步骤,不代表实测耗时或各环节占比。

这样做可能得到一个不太好看的结论:生成本身快了,但排队更久,或用户重做更多,完整任务没有变快。这个结果仍然有价值,它告诉团队下一笔投入应该放在哪里。

快一点,值得牺牲什么?#

比较速度之前,我会先固定一批有代表性的任务,以及不能退让的质量底线。测试任务既要有容易完成的,也要有复杂动作、较长内容和容易出错的画面。否则,团队可能只是在简单任务上换到了速度。

质量验收还需要看任务本身。两个视频在像素上接近,可以帮助定位变化,却不能代替“商品有没有画错”“这条能不能发布”的判断。对于不依赖画面还原的创作场景,也不必把与旧结果一模一样当成唯一目标。

接下来,我会一起看三个问题:

  • 普通任务快了多少? 用中位耗时观察常见体验,并保留测试条件。
  • 特别慢的任务有没有改善? 看第 95 百分位耗时,也就是 95% 的请求能在多久内完成;同时检查超时和放弃的任务,避免只统计成功样本。
  • 拿到一个可用结果要花多少? 把失败、重试和占用的计算资源算进去,再比较每个成功任务的成本。

这些指标不必都朝同一个方向变化。若成本下降、等待基本不变,方案仍可能值得采用;但上线说明应该讲清收益来自哪里。若提速依赖降低质量,就应让用户知道自己选择了什么,而不是在默认模式里悄悄改变标准。

先小范围上线,再决定是否默认开启#

离线测试能控制任务和条件,却很难替代真实的排队压力、网络状况和用户修改行为。因此,我会先让小范围流量使用新方案,并保留旧方案作为对照。

上线前就要约定停止条件:关键画面错误增加、慢请求恶化,或每个可用结果的成本超过团队接受范围时,应暂停扩大流量。具体门槛需要结合业务定,不能从这篇工程文章里直接抄一个比例。

对少数表现不好的任务,可以回到原方案,而不是让所有用户承担同样的取舍。每次回退都记录任务类型和失败原因,把这些案例加入下一轮固定测试集。后续优化是否有效,要在旧问题上重新验证。

最终,性能报告应该回答三个连贯的问题:哪个环节变快了,完整任务改善了多少,质量和成本付出了什么代价。能回答清楚,技术上的进步才有机会变成用户感受到的进步。

来源与边界#

  • 一手来源: Google Developers《Accelerating Spatio-Temporal Attention for Video Diffusion on TPUs》,2026 年 9 月 30 日;Ravisri Valluri、Sagar Chapara、Rishabh Manoj。
  • 局部测试: 单颗 TPU v6e、合成 BF16 输入、75,600 tokens、10 头、每头维度 128。
  • 去噪对照: 81 帧、720p、40 步、8 颗 TPU v6e;配对使用相同提示词及随机种子,取 3 次预热后运行的中位数。新旧配置分别调优,不能作单变量归因。
  • 限制: 原文的 PSNR 是像素相似度;未报告用户研究、线上慢请求或业务成本。

本文未独立复现实验。有限示例不足以替代失败任务测试,也不能支持对其他系统的收益承诺。商品短片场景、完整计时、质量门槛及上线流程均为本文建议。