数据资产,通常是指数据的存储和计算资源的管理情况,以及维护现有的数据资产,包括我们有什么数据、有什么指标、能做怎样的事情,避免各团队重复开发的事情出现。
数据的存储和计算资源管理,往往是要与运维团队配合,数据集群会给出一份账单数据,研发团队保障成本是可控的,如果预算超支较多,则需要进行治理。
关于
数据存储治理,通常指对数据表进行下线、缩减生命周期等操作。在实际开发过程中,由于长时间的项目积累,我们往往会发现很多不再使用的表仍在在运行,或者是一些不怎么使用的数据,存储的周期非常长,这都是要治理的重点对象。解决的方法也很简单,一是开发前的需求与模型评审,一个是监控数据表或者数据应用的访问情况,对于低频或者无访问的数据,则确认必要性后,进行下线或者缩减生命周期的操作。
关于数据计算治理,则把重心集中在慢SQL的治理上,检查那些消耗资源多、或运行时间长的任务,如果存在数据倾斜则进行优化,如果数据量确实大则考虑极限存储或者进行裁剪,当然最基础的,如对表的暴力扫描这种不合理的临时任务,也是需要及时发现和关闭的。
最后,我们需要整理数据的文档,有能力的团队可以把文档开发成一个录入和查询的平台工具。这个文档或者工具,要解决诸如我们有什么数据、有什么指标、能做怎样的事情的问题。
文档要有如下的几个基本要素:
其一,要有源系统的模型设计,明确业务过程有哪些、业务发生时的数据流向、数据之间的ER关系等信息;
其二,要有指标字典,指标字典是非常重要的,一定要在需求沟通的过程中沉淀下来,当我们回头去看的时候,大量的时间在沟通指标和维度的定义;
其三,要有开发和需求规范,很多时候我们处于效率的考量,会做很多“私下”的工作,但这些工作往往不在正式的列表中,因此流程上还是要规范一些,不要把有限时间放到无限的沟通中去。
(部分内容来源网络,如有侵权请联系删除)