道与术:数据驱动产品优化离不了的A/B测试
在讲数据驱动产品优化前,我们先来回顾国内互联网的几个阶段。钱天白教授在1987年发出的第一封电子邮件,揭开了国内互联网发展的序幕。
互联网在中国的发展历程可以大略地划分为三个阶段:1986年6月到1993年3月的研究试验阶段,1994年4月至1996年的起步阶段,以及1997年至今的快速增长阶段,这一阶段诞生了陈天桥、马化腾、汪延等IT 大佬。
略过前两个阶段,我们来细看快速增长阶段。
在1997-2004年前后互联网发展的早期,互联网商业化主要是受概念驱动,出来一个全新的概念,似乎很快就能火,因为可选择的产品不多,用户群对互联网也缺少认知。
经过了大约七八年的“浸淫”(原谅这里用了这么一个词),2004年开始国内互联网逐渐变成了受产品驱动,这一阶段一直持续了将近十年。互联网迅速从蓝海变成红海,要想从激烈的竞争中脱颖而出,各种产品不得不重视用户体验,这期间“人人都是产品经理”,“人人都想做产品经理”。这一阶段的发展不得不忽视的是中国的人口红利和智能手机的普及。
IDC 2012-2016年中国智能手机出货量预测
2015年智能手机出货量的饱和和国内人力成本的增加,使得大多数的公司不得不思考产品优化中的投资回报率,这一阶段也就是数据驱动 精细化运营 阶段。这一阶段有这么几个特点:
- 流量成本越来越高
- 想依靠人口红利带来用户增长越来越难
- 不得不思考怎么去做精细化运营,让花出去的每一分钱都带来效果
在产品曝光给用户之前,想一下怎么才能让产品对用户来说更有“眼缘”呢?有“眼缘”之后怎么才能“要到电话”?有了电话又怎么才能跟用户有更大的“约会”机会?进一步的发展呢?
-
多个方案并行测试(对比了几套衣服);
- 每个方案只有一个变量不同(只对比了上衣);
- 以某种规则优胜劣汰(最终穿了最符合你形象气质的衣服)。
A/B测试是指在所有条件都相等的条件下,只改变一个条件,从 A 改成 B ,然后对比两者产生的效果的不同。单一变量决定了 A/B 测试 的科学性。
对应到技术产品里, A/B 测试 的方法就是将产品的用户流量分割成 A/B 两组,一组试验组,一组对照组,两组用户特点类似,并且同时运行。试验运行一段时间后分别统计两组用户的表现,再将数据结果进行对比,就可以科学的帮助决策。
单纯的讲 A/B 测试 是如何的科学,对于运营与产品增长是多么有效看起来好苍白,那么我们通过更多的案例来讲。
• Google 每个月从上百个 A/B 测试中找到十几个有效方案,月营收提升2%左右,10亿美元的规模
• 广告位左移一个像素带来 X %的营收,左移两个像素带来 Y %的亏损• 任何产品的优化、改动都需要AB测试才能上线
• facebook 6个月内所有产品全部线上灰度发布,通过不断进行用户的流量分割的方式进行试验,获得无 BUG 口碑
- 滴滴出行在滴滴司机招募的着陆页上,通过尝试不同的设计和文案,使得注册率提升了20%以上
需要注意的是,不是每一次 A/B 测试 验证过的改动都会带来增长,但 A/B 测试 确确实实能帮你排除掉了不好的策略。通过 A/B 测试验证好的改动才通过上线,这就保证了产品迭代中的小步快跑里总是在对产品做优化和提升。
“从现在开始的10年内,当我们回顾大数据时代是如何发展时,我们会震惊于以往做出决策时信息的匮乏。”
做对的事情,做 ROI 最高的事情,在避免犯错的情况下最大化优化产品运营漏斗,你需要在产品体系里引入 A/B 测试,拍脑袋的决策已经失效,产品优化中的每一处改动都应该经过数据精确的衡量,毕竟:“ If you can't measure it, you don’t know how to make it better ! ”