如何设计出一个高效的埋点管理系统?

如何设计出⼀个⾼效的埋点管理系统?
作者介绍
@九果
⼊⾏⼤数据8年;
某⼤⼚数据产品经理;
专注于数据产品,并持续学习中;
“数据⼈创作者联盟”成员。
01为什么要做埋点管理系统?
备注:如果您已经知道为什么要做埋点管理系统了,可以直接跳去第三节看埋点管理系统的建设过程。如果还没有很好的了解过埋点管理系统,建议从头开始读起,本⽂章⼩长,但是⼀定有⼲货哦,建议好好读完!
如果你是⼀名数据分析师,是否有过这样的经历,当你需要查询APP产品埋点数据的时候,你不得不经
常数据产品经理去确认是否已有埋点,埋了哪些字段,是否已有上报数据等,常常这些埋点事件元信息分散在多个产品经理⼿上,信息散乱,分析师使⽤埋点数据之前沟通成本极⾼,影响数据使⽤的效率……
不仅如此,我们还会遇到埋点数据异常,追溯埋点历史问题过程也是⾮常的漫长,需要数据产品经理去跟业务产品经理确认埋点需求的版本,然后数据产品经理确认埋点设计需求的批次,然后给到开发,开发同事再去查问题……
以上种种问题场景相信⼤家都经历过,且⼀直是困扰着我们的痛点。
埋点场景的痛点我总结为以下5点:
埋点需求及埋点设计⽂档管理散乱,产品,开发,测试协同沟通效率低下,严重影响⼯作效率
埋点事件元信息管理散乱,常是分布在多个产品经理⼿上,分析师使⽤埋点数据时需要查询埋点需求及埋点事件的元信息这个过程链路长,沟通成本⾮常⾼,埋点元信息使⽤查询极其不便利
若出现埋点数据异常问题,若开发同事需要追溯埋点历史数据,则更是需要有当时的埋点需求批次和埋点设计⽂档作为辅助,这时候的埋单需求⽂档和埋点元信息的统⼀管理,对于历史问题追溯问题的效率有极其⼤的帮助。
⾮可视化测试,验收埋点难度太⼤。
每次都要跑去数据库了查询,对于没有写SQL基础的业务经理来说,验收埋点数据的效率就会⽐埃及地下。
数据校验流程混乱,版本管理难度⼤,开发同学常常要⾃⼰开发⼀个后台管理功能来管理埋点发布或下线的版本
埋点管理系统是什么?
亚硫酸铵02埋点管理系统是什么?
02
有没有⽐较好的⽅法解决以上问题呢,答案是有的!就是我们下⾯要介绍的埋点管理系统。埋点管理系统是做什么⽤的?埋点管理系统为啥在数据产品体系中相对少听到,为什么业内也没有⾮常出名和成熟的产品?
埋点管理系统本质是解决数据采集及数据使⽤场景问题的业务系统,业务⽅则是数据产品、数据开发⼯程师、数据分析师等数据团队的⼈员。
在业务尚处于快速发展的阶段,数据团队的领导更多关注的是为业务团队提供数据产品,⽽通过给数据团队提供数据⼯具来提升数据服务的效率,这个问题⼀般是在数据团队的服务能⼒相对稳定和成熟之后才会去落地。也就是当⼤家的KPI都是在满⾜业务的数据需求的时候,只要有可替代的⽅案,领导会更愿意暂时⽤着替代⽅案去解决这个问痛。
鸡链球菌病
⽐较常见的例⼦,数据分析师在业务处于快速发展的阶段就⼤概率只让你取数,未必让你真正的去做业务数据分析的活⼉。等数据取数这类需求达
到⼀定的数量,⽼板才会想着去开发可视化类的取数⼯具,帮助数据分析师从⼤量的数据查询和报表开发的⼯作解脱出来,去做更加有价值的业务专题分析的⼯作。
回到主题,埋点管理系统也常常会等到埋点需求⾮常多,从埋点需求产出端到埋点需求使⽤⽅都感觉到这个合作流程已经影响了整体的⼯作效率的时候,埋点管理系统才会被⽼板想到,这个⼯具是否可以替代原本的零散和低效的协同模式来提⾼⼤家的⼯作效率。所以,埋点管理系统本⾝是⼀个提升数据同事⼯作效率的⼯具。
埋点管理系统能解决问题主要有以下5点:
通过统⼀管理应⽤产品及埋点设计,解决了埋点需求及埋点设计管理散乱,产品团队、开发团及测试团队,数据应⽤团队的协同沟通效率低下问题。
通过统⼀管理埋点事件的元信息,解决了数据应⽤场景中需要⾼频及便利的查询查询埋点事件元信息问题。
通过统⼀的埋点需求管理及事件元信息管理,解决了开发同事在遇到埋点数据异常需要追溯历史埋点。
通过可视化抓包,解决了埋点数据验收的重度依赖数据库查询的相对低效的⽅法。
通过可视化对⽐校验和发布/下线能⼒,解决了开发同事单独管理埋点需求的版本及发布场景问题,并有明确的数据校验流程,从⽽间接提升数据质量的管理。
03如何设计埋点管理系统?
01业务流程确认
说了埋点管理系统能解决的问题,接下来聊聊埋点管理系统长啥样,如何才能设计出解决我们以上问题的埋点管理系统。在此之前,我们先了解埋点场景的业务流程:
图⼀:埋点业务流程图1
接下来将按照埋点涉及的⾓⾊和流程节点两个维度⼀起阐述:
加权在需求阶段:业务团队跟数据产品团队提出埋点需求,数据产品团队会根据⽤户的当期及未来的统计需求,确认增加哪些埋点,并通过拆解埋点需求指标,输出埋点设计⽂档;⽽后,产品团队跟⼤数据开发团队进⾏埋带设计需求的评审,评审通过之后再上线开发。
埋点开发阶段:开发团队同事按照数据产品经理提供的已评审过的埋点设计⽂档进⾏开发;开发⾃测完成后会提测给测试同事,测试同事按照埋点设计⽂档进⾏功能和数据的测试;测试通过后,数据产品经理将进⾏埋点验收,产品经理不但要按照埋点设计⽂档验收事件及事件参数的完整性,也要去数据哭验收埋点数据的准确性。
埋点应⽤阶段:埋点上线后,数据分析团队就可以直接去按照埋点设计⽂档去数据库查询提取埋点数据进⾏分析应⽤了。这个过程,分析师⼀般需要先跟产品经理先过⼀遍新上的埋点设计⽂档后再开始使⽤数据。
埋点回收阶段:埋点也是有⽣命周期的,有开始时间也会有结束时间。若产品已经下线,且后期将长期不再需要使⽤这些⽤户⾏为数据了,基于海量数据存储成本和资源浪费⼒的⾓度考量,企业会愿意将这类埋点下线。⼀般并不会直接下线,标识上可以下线的标识后,⼀般过3-6个⽉依然不再被范围调⽤,则执⾏下线。
02系统功能确认
业务流程确认了,我们就在对应的业务流程上增加产品功能模块去承载每个业务流程节点的需求,如下图:
图⼆:埋点业务流程图2
屠波03系统功能架构
通过埋点业务流程的梳理,得出了多个系统功能模块,拆解出来的埋点系统功能结构如下图:
选址问题图三:埋点管理系统功能结构图
在功能结构图中提到了应⽤、埋点需求、事件、属性等对象,在展开阐述每个功能模块之前,我们先了解⼀下埋点管理系统⾥涉及到的全部管理对象及对象之间的关系。
图四:埋点事件模型图
埋点管理系统⼀共涉及到四个对象,分别是应⽤、埋点需求批次、埋点事件、事件属性。他们之间的关系是⾃上⽽下的逻辑关系。⽐如在系统的埋点需求管理模块,筛选出⼀个应⽤名称,则对应展⽰的是选中的应⽤下⾯的所有埋点需求清单,选中单个埋点需求批次的时候,对应展现的就是这个批次下⾯的所有埋点事件。了解到此,下⾯我将分别展开介绍每个模块的功能:
1)应⽤管理
应⽤管理功能主要是承载业务团队新增⼀个APP/⼩程序/H5/web端等业务产品对象,我们需要在系统⾥先创建⼀个新的埋点产品对象,然后才有后续增加的埋点需求及事件元信息等。这个模块包含应⽤新增、删除、编辑等基础功能。产品团队需要负责的埋点产品都可以放在这⾥统⼀管理。
图五:应⽤管理列表图
梅甘 福克斯2)埋点需求管理
埋点需求管理功能主要承载集中管理业务团队提过来给产品团队的埋点需求⽂档,这⾥可以创建需求
、编辑需求、下钻需求、下线需求等。在这⾥,需求按照批次来进⾏管理,每⼀个埋点需求都有⼀个唯⼀的批次号,挂载到对应的应⽤及版本上,并且点击单个埋点需求批次号,可以直接下钻到该埋点需求下的全部事件列表。

本文发布于:2024-09-23 00:27:37,感谢您对本站的认可!

本文链接:https://www.17tex.com/xueshu/526463.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:数据   产品   需求
留言与评论(共有 0 条评论)
   
验证码:
Copyright ©2019-2024 Comsenz Inc.Powered by © 易纺专利技术学习网 豫ICP备2022007602号 豫公网安备41160202000603 站长QQ:729038198 关于我们 投诉建议