|
完整的数据治理四个过程一个完整的数据治理解决方案,包含四个过程,既数据规划、数据采集、数据储存管理、数据应用四个过程,每个过程都是一个系统工程,每个过程都可以单独实现。 1.数据规划:梳理业务流程,规划数据资源 对于企业来说,每天的实时数据都会超过TB级别,需要采集用户的哪些数据,这么多的数据放在哪里,如何放,以什么样的方式放?这些问题都是需要事先进行规划的,需要有一套从无序变为有序的流程,这个过程需要跨部门的协作,包括了前端、后端、数据工程师、数据分析师、项目经理等角色的参与。 2.数据采集:ETL采集、去重、脱敏、转换、关联、去除异常值 前后端将采集到的数据给到数据部门,数据部门通过ETL工具将数据从来源端经过抽取(extract)、转换(transform)、加载(load)至目的端的过程,目的是将散落和零乱的数据集中存储起来。 3.数据存储:大数据高性能存储及管理 这么多的业务数据存在哪里?这需要有一高性能的大数据存储系统,在这套系统里面将数据进行分门别类放到其对应的库里面,为后续的管理及使用提供最大的便利。 4.数据应用:即时查询、报表监控、智能分析、模型预测 数据治理的最终目的就是辅助业务进行决策,前面的三个方面都是为最终的查询、分析、监控做铺垫。这个阶段就是数据分析师的主场,分析师们运用这些标准化的数据可以进行即时的查询、指标体系和报表体系的建立、业务问题的分析,甚至是模型的预测。 上一篇大数据治理理论下一篇大数据治理包括哪些方面? |