跳到正文

A/B 测试

A/B Test

中级通用

A/B 测试(A/B Test)是把用户随机分到不同版本,比较同一指标的实验。它帮你判断改版是否真的带来改善,而不是只凭直觉或上线前后的数据下结论,例如比较两种注册页的完成率。

你可能会说:「我做了两个注册页版本,想让一部分用户看到新版,再看它是不是真的更容易让人完成注册。」

读之前建议先了解

动手看看

进入实验新访客随机分组随机分配双版注册页等待访问实验统计同一指标
1

想知道精简注册表单有没有用?先把同期新访客随机分成两组,避免让用户自己挑版本,造成比较不公平。

要点

  1. 1

    先定要比较的用户和指标

    比如你想知道新注册页能否提高注册完成率,就先说清哪些访客参与、什么算完成注册。因为看完数据才挑指标,很容易把偶然变好的数字当成成果。

  2. 2

    随机分组并保持版本稳定

    把符合条件的用户随机分到旧版 A 和新版 B,并让同一用户持续看到同一版本。这样两组更有可比性,也能避免用户反复切换页面影响行为。

  3. 3

    连同代价一起看实验结果

    注册完成率提高还不够,我们也会看后续留存、错误率等指标。因为新版可能让更多人点完表单,却带来更多无效注册;样本太少或观察太短时,差异也可能只是波动。

容易混淆的地方

A/B 测试比较的是随机分组后的用户行为,不等于看改版前后两周的数据:时间变化也可能影响结果。它也不同于金丝雀发布,后者主要是先让少量用户接触新版,观察故障和性能;如果要据此判断产品效果,还得设计分组、指标和分析方式。

什么时候用

适合用

  • 你准备调整网站注册流程,已有稳定流量,想比较新版与旧版的注册完成率。
  • 你在 AI 工具里改了首次使用引导,想看新引导是否让更多用户完成第一次提问。
  • 你想比较两种定价页说明,在正式替换前确认哪一种带来更多有效购买。

不适合用

  • 后台只有几位固定管理员,短期内凑不出有意义的比较数据;找他们做访谈和任务观察更直接。
  • 支付接口刚改完,你想确认付款会不会报错;先做自动化测试和小范围发布,别靠 A/B 测试找故障。
  • 你还不知道用户为什么放弃注册,也拿不出明确的改版假设;先看漏斗数据并访谈用户。

练一练

你为注册页做了新版,想判断它是否比旧版更能促成有效注册。网站每天有稳定访客,你会怎么安排?

让 AI 帮你做

请为注册页设计一次 A/B 测试:保持旧版 A,向随机分配的访客展示新版 B,并让同一访客持续看到同一版本。先列出参与条件、主要指标、有效注册的定义和需要监测的负面指标;说明埋点、分组及结果分析方案,暂不根据上线前后数据判断效果。

接下来学什么