品玩

科技创新者的每日必读

打开APP
关闭
业界动态

火山引擎 DataTester 应用故事:一个A/B测试,将产品DAU提升了数十万

shuohang

发布于 11月24日

疫情让线下的需求大量转移到线上,催生出了远程办公、网络授课、线上健身等新的生态现象。如何更好地为用户服务,提升用户体验,成为了诸多平台的一大课题。

今天的故事来自字节的一款 App,当它的发展进入成熟期后,通过A/B测试等精细化数据分析提升用户体验,实现DAU(日活跃用户数)增长数十万的故事。

在字节有一个专门保障用户使用性能体验的团队,他们在日常的数据观察中发现了一个现象:用户所使用的设备性能好坏,会影响到他们在产品使用中的活跃度。同时,他们在研究中发现,这些基础性能体验的提升,会延长不同细分领域的用户生命周期,最终提升短视频产品的大盘DAU。

为了进一步精确归因,这个团队使用专门为A/B实验打造的数据产品——DataTester,该产品是字节跳动内部应用多年的A/B实验平台,在2020年已通过火山引擎面向外部企业开放服务。他们通过 DataTester 查看已经获得正向收益的A/B实验,并对其中的每个性能指标和业务指标做线性分析,尝试寻找会对业务指标造成影响的性能指标。

数据显示,字节每日有3万余个A/B实验在同时运行,而每一次微小的产品改动,也都会经过A/B实验所得出的数据验证。可以说小到按钮颜色和位置,大到推荐算法策略和规则,在字节都经历过 DataTester 的A/B实验效果验证。

因此,该短视频产品也在 DataTester 中积累了大量的实验记录。当性能体验团队将 DataTester 中的历史实验进行归纳整理后,他们发现有几个性能指标和产品的业务指标具有高度的相关性——当用户在刷短视频的过程中,遭遇到较多流畅度、储存占用、网络速度等问题,会直接的降低用户使用短视频产品的活跃度,而这个问题在设备性能较低的用户群体中更为明显和集中。

定位到问题后,性能体验团队开始有针对性地开启了产品策略的优化。他们集中优化了设备性能较低的用户,在打开产品启动速度和视频加载流畅性方面——

●启动速度:首刷视频加载时间过长;

●流畅性:UI动画和视频加载卡顿。

他们设计了优化后的产品形态,核心是将页面展示简洁化,并再次通过DataTester投放A/B实验,用以验证效果。

配合产品页面展示简洁化,也同时减轻了一些特效、动效、快捷功能、附加组件等加载,综合性大幅提升了该短视频App的启动速度和视频播放的流畅度。

从DataTester的实验结果上看,优化后的实验组方案在性能指标上有了大幅提升,App启动速度、播放流畅度明显提升,播放卡顿指标大幅下降。而在业务指标的数据反馈中,用户生命周期、用户访问时长等都有不同程度的正向收益。最终,本次的产品优化在DataTester中取得了提升整个短视频App 数十万日活的收益,超出预期。

从今日头条开始,字节的每款产品,在迭代中都离不开A/B测试。也正是因为DataTester在字节全业务线的深度普及和应用,帮助业务在每一个微小决策的岔路口上,都做出了那个“更正确一点”的选择。

火山引擎DataTester基于先进的底层算法,提供科学分流能力和智能的统计引擎,支持多种复杂的A/B实验类型。在应用和分析场景上,DataTester 深度耦合推荐、广告、搜索、UI、产品功能等多种业务场景需求,为业务增长、转化、产品迭代,策略优化,运营提效等各个环节提供科学的决策依据,让业务真正做到数据驱动。

目前,火山引擎DataTester 已经服务了美的、得到、凯叔讲故事等在内的上百家标杆客户,将成熟的“数据驱动增长”经验赋能给各行业。(作者:陈肖)

下载品玩App,比99.9%的人更先知道关于「业界动态」的新故事

下载品玩App

比99.9%的人更先知道关于「业界动态」的新故事

iOS版本 Android版本
立即下载
shuohang

这家伙很懒,什么也没留下,却只想留下你!

取消 发布