策略产品经理A/B测试的上线流程是什么样的?(下)
A/B测试是一个重要的流程,它的整个过程也比较复杂,策略产品经理必要掌握它的整个环节,这样才能让产品成功上线。那么策略产品经理A/B测试的上线流程是什么样的呢?今天我们来继续介绍这个内容。
在上一篇文章中,我们介绍了A/B测试的前几个环节,下面是后面的几个流程:
一、结束点
实验结束时需要终止实验,根据多天累积的数据,对相关指标进行数据分析,形成数据报告。
在终结点的选择方面,不同类型的产品及不同的观测指标有差异,具体选择方法如下:
日活级产品(DAU/MAU大于50%的产品):一般指标需观察3个完整天以上(一般为4天),次日需观察7个完整天以上(一般为8天),次周(一般为15天)需观察14个完整天以上。
就周活级产品而言(DAU/MAU小于50%的产品):这类产品的用户并非每天都在使用,而且周期很长。由于需要一个周期的用户行为对比,一般指标需要观察7整天以上,一般为8天。日间保留指标需观察10整天以上,一般为15天,因为需要两个周期,两个分组进行用户行为对比。分周保留指标需要14个整周,一般为15天,因为需要在两个循环中对两个分组的用户行为进行对比。
上述数据为经验性数据,主要依据作者所经历的大部分A/B测试,次日存留指数在第7天基本稳定,在第8天、第9天、第10天和第7天基本一致。
其它度量的终点时间也是相同的,这基本上是因为用户行为数据逐渐得到一个固定的值。
二、分析实验结果
策略产品经理需要对实验结果进行分析,并给出如下书面分析。
对试验结果进行分析,以确定其结果是否符合预期。通常需要参考原始的实验假设,并与自己的主观经验报告一起试图回答这个问题。
与预期的试验一致,下一个优化步骤是什么。没有达到预期的试验,分析是假设错了还是验证错了,下一个改进点在哪里。
三、灰度上线
假如实验获得了统计上可信的正收益,那么就需要灰度发布该策略,但在处理过程中,是否需要发布客户端的新版本将有所不同。
如需发版,走版本审核的一般都是灰度流程,一般需要在小渠道放量,观察不同手机型号的产品是否有漏洞。
如无需求,请关闭原始测试,并在A/B测试平台上将测试状态调整为“灰度发布状态”(平台需要支持此功能),调整实验组用户的比例,观察天级指标的变化情况。例如首日销量30%,观察目标指标(如人均停留时间)对总用户数量的影响。灰色上线的目的是为了观察A/B测试对全量用户的实际效果,此时A/B测试虽然没有严格进行验证,但也是非常必要的。
四、回测机制
一般情况下,KPI考核周期前,都需要对绩效实验进行有组织的回测,所谓“回测”,实际上就是对历史实验的重新测试。
由于在试验过程中有收益并不代表长期有收益(A/B测试有限制,可能用户群的特征分布有变化),因此需要对试验进行重新测试,测试在评估周期内(比如一个季度内)获得更大收益,预期得到的收益也是相同的正向收益(正常情况下,数据幅度可能会有差异)。
通常A/B测试的成功率低于20%(成熟产品A/B的成功率更是低于10%),但是我们可以通过以假设为基础的实验方法来挖掘知识,并挖掘出新的优化点,即使是失败的实验。
虽然整个流程的步骤比较多,只要掌握了技巧还是能够轻松完成的。策略产品经理一定要熟悉整个的A/B测试流程,在实践项目中不断的积累经验,不断优化,形成一套自己的模式,这样就能提高效率,还能达到预期的结果。
以上就是“策略产品经理A/B测试的上线流程是什么样的?(下)”的内容了,如果你还想了解其他相关内容,可以来 产品壹佰 官方网站。
在上一篇文章中,我们介绍了A/B测试的前几个环节,下面是后面的几个流程:
一、结束点
实验结束时需要终止实验,根据多天累积的数据,对相关指标进行数据分析,形成数据报告。
在终结点的选择方面,不同类型的产品及不同的观测指标有差异,具体选择方法如下:
日活级产品(DAU/MAU大于50%的产品):一般指标需观察3个完整天以上(一般为4天),次日需观察7个完整天以上(一般为8天),次周(一般为15天)需观察14个完整天以上。
就周活级产品而言(DAU/MAU小于50%的产品):这类产品的用户并非每天都在使用,而且周期很长。由于需要一个周期的用户行为对比,一般指标需要观察7整天以上,一般为8天。日间保留指标需观察10整天以上,一般为15天,因为需要两个周期,两个分组进行用户行为对比。分周保留指标需要14个整周,一般为15天,因为需要在两个循环中对两个分组的用户行为进行对比。
上述数据为经验性数据,主要依据作者所经历的大部分A/B测试,次日存留指数在第7天基本稳定,在第8天、第9天、第10天和第7天基本一致。
其它度量的终点时间也是相同的,这基本上是因为用户行为数据逐渐得到一个固定的值。
二、分析实验结果
策略产品经理需要对实验结果进行分析,并给出如下书面分析。
对试验结果进行分析,以确定其结果是否符合预期。通常需要参考原始的实验假设,并与自己的主观经验报告一起试图回答这个问题。
与预期的试验一致,下一个优化步骤是什么。没有达到预期的试验,分析是假设错了还是验证错了,下一个改进点在哪里。
三、灰度上线
假如实验获得了统计上可信的正收益,那么就需要灰度发布该策略,但在处理过程中,是否需要发布客户端的新版本将有所不同。
如需发版,走版本审核的一般都是灰度流程,一般需要在小渠道放量,观察不同手机型号的产品是否有漏洞。
如无需求,请关闭原始测试,并在A/B测试平台上将测试状态调整为“灰度发布状态”(平台需要支持此功能),调整实验组用户的比例,观察天级指标的变化情况。例如首日销量30%,观察目标指标(如人均停留时间)对总用户数量的影响。灰色上线的目的是为了观察A/B测试对全量用户的实际效果,此时A/B测试虽然没有严格进行验证,但也是非常必要的。
四、回测机制
一般情况下,KPI考核周期前,都需要对绩效实验进行有组织的回测,所谓“回测”,实际上就是对历史实验的重新测试。
由于在试验过程中有收益并不代表长期有收益(A/B测试有限制,可能用户群的特征分布有变化),因此需要对试验进行重新测试,测试在评估周期内(比如一个季度内)获得更大收益,预期得到的收益也是相同的正向收益(正常情况下,数据幅度可能会有差异)。
通常A/B测试的成功率低于20%(成熟产品A/B的成功率更是低于10%),但是我们可以通过以假设为基础的实验方法来挖掘知识,并挖掘出新的优化点,即使是失败的实验。
虽然整个流程的步骤比较多,只要掌握了技巧还是能够轻松完成的。策略产品经理一定要熟悉整个的A/B测试流程,在实践项目中不断的积累经验,不断优化,形成一套自己的模式,这样就能提高效率,还能达到预期的结果。
以上就是“策略产品经理A/B测试的上线流程是什么样的?(下)”的内容了,如果你还想了解其他相关内容,可以来 产品壹佰 官方网站。