「原理」如何分析产品新功能的效果?

2022-04-06 08:53:55 浏览数 (1)

你好,这里是巡山猫编辑部,我是巡山猫。

我们经常遇到产品需要加一个新功能,当功能上线后,产品经理总会找我们建立指标体系,分析相关产品效果。

那么问题来了:我们应从哪几个角度去入手,才能更好地评估一个功能的具体效果呢?

整体来说,需要从三个层次来度量产品效果:

  • 从大盘出发,度量该功能对整体产品的一个贡献
  • 从产品本身出发,分析产品本身的效果
  • 从技术层面出发,为了保证技术层面的服务不受影响,建立护栏指标

大盘贡献

首先要明确,我们做一个产品,或者说页面/功能时,我们一定有一个明确的业务目标,是提升用户在产品上的什么效果。

比如我们在京东中增加了秒杀板块,是为了让用户感受到某些产品更便宜,从而提升用户的购买次数,从而提升整体的 GMV。

所有的这些功能,我们都需要有一些明确的指标来衡量,产品对大盘的贡献。最基础的就是这个功能的 UV 在大盘中的占比。

但是这只是纵向的贡献,我们还要从横向上来度量对大盘的贡献,也就是我们要基于这个功能的核心目的(如搜索次数、被查看次数、GMV等),建立与大盘上该指标的联系,才能更好地衡量该功能对大盘的贡献。

切忌不要张口就说,提升用户满意度。

首先,什么是满意度,我们没有一个明确的指标来度量,因为用户满意度是使用次数增加还是停留时间增加?或者是后期的留存率提升?无法定义就无法度量。

其次,我们没有定义出什么是满意度,没有具体的指标映射到产品上,我们如何去做产品迭代?

所以,我们在大盘贡献这一层,要基于功能的目标,非常清晰地构建与大盘的联系,这个联系一定是某些可度量的指标上的联系。

比如:

UV上的指标,与大盘的联系可以是 UV 渗透率

PV 上的指标的联系可以是 PV 占比

停留时长上的联系可以是该功能的停留时长在整体 App 停留时长上的占比

功能效果

整理完对大盘的贡献,我们还需要评估项目本身。

那一般来说,一个功能的效果该从哪些角度来评估呢?我们来看下面这个图

从图中我们可以看到,当一个功能被增加,那一定会在用户的使用链路上体现出来。

那相应地,纵向的指标就很好确定了:

当前功能的 UV、PV,对比上一层的漏斗(渗透率)以及留存率相关的指标。

横向指标又需要哪些呢?

从图中我们可以看到,一个功能从开始使用到使用完成,经过的过程是进入该功能→在功能中停留、点击、消费、跳转→最后又退出该功能。

那相应的功能指标也需要将这一些动作包含进去。

比如常见页面的 CTR、页面停留时长、页面跳出率等。

这里的目的是度量出用户在整体功能中的操作的步骤,查看用户的消费情况。

整体说下来,关于功能本身的效果评估,我们可以:

纵向上度量功能本身的流量的大小和留存的情况;

横向上去根据整体功能的操作路径,建立功能上的消费指标。

横向和纵向结合,就能比较清楚地了解当前功能的效果。

护栏指标

可能看到 “护栏指标” 这几个字会比较懵,会疑惑什么是护栏指标。

这个通俗来说,是一种对效果评估补充的服务层指标。

举个例子,我们上线了某功能,但是该功能占用的服务器内存特别大,虽然功能效果很好,但是经常会导致 App 白屏或者崩溃。

这时候,我们就需要从服务器层面,去监控比如“XX失败率”这样的指标。而这些指标就是护栏指标。

护栏指标的意义在于,我们不仅能从大盘贡献和功能效果层面去评估某个功能的价值,还可以从服务层面保证用户的体验没有下降(比如打开某页面等待时长没有从 1s 上涨至 5s)。

因为往往很多时候,功能有没有效果还不是那么重要,如果我们从最直接的交互上损害了用户的体验而导致用户流失,反而是最得不偿失的。

但是也不需要紧张,并不是所有页面和功能都需要护栏指标。

比如常见视频的播放、页面的加载、活动的下发,这几种往往需要监控一些失败率及大盘上的加载效率。而一些小功能的添加,我们就监控一下最基础的页面白屏率就可以了。

总结

综合以上的三个层次,我们可以总结出来,当一个新功能需要评估时,我们可以按照以下步骤来进行评估。

1、确定功能目标

确定所需要度量的功能的目标是什么,是做一个活动页面短期刺激用户量,还是做一个功能长期提升用户留存率。这个其实就是最基础的两个目的,我们也可以从这两个目的出发,开始我们的第二个步骤。

2、梳理整体指标

上文我们说到,评估功能需要有三个层次去考虑。

第一:从大盘的角度出发,根据当前功能的核心目的,建立当前功能与大盘的联系,拆解出对大盘指标的贡献;

第二:从功能本身出发,纵向查看功能流量,横向度量功能消费情况;

第三:从服务层面出发,保证用户在一系列的交互使用上体感良好。

这也就是第二步梳理整体指标。

3、对比功能效果

最后,我们建立了度量的指标,整体有了量化的标准。还需要一件事:对比。

没有对比就没有结论,我们可以用当前使用该功能的用户对比未使用该功能的用户,或者用当前功能的数据对比类似功能的数据效果。当然我们如果能拿到竞品数据,对比竞品数据更好了。

以上,就是本期分享。

app

0 人点赞