建设大数据平台从“治理”数据谈起

  大数据不是凭空而来，1981 年***个数据仓库诞生，到现在已经有了近 40 年的历史，相对数据仓库来说我还是个年轻人。而国内企业数据平台的建设大概从 90 年代末就开始了，从***代架构出现到现在已经经历了近 20 年的时间。

  在这 20 年的时间里，国内数据平台实施者能够说是受尽折磨，数据项目一直不受待见，是出了名的脏活累活。

  可以说，忽视数据治理给数据平台建设带来了不少问题。随处可见的数据不统一，难以提升的数据质量，难以完成的数据模型梳理等源源不断的基础性数据问题，限制了数据平台发展，导致数据应用不能在商业上快速展示效果。

  举一个典型商业智能应用的例子，管理驾驶舱可能很多朋友都听说过，很多企业建设了管理驾驶舱，但是建设完之后往往成为摆设，只有当领导需要看的时候，大家才去拼命改数据。

  为什么数据平台的建设遇到这么多“坎”，而且难以真正发挥其商业经济价值?其实核心问题还是数据本身不统一，数据内容准确度不高。

  我国最早意识到数据治理重要性的行业银行是金融行业。由于对数据的强依赖，金融业一直很看重数据平台的建设，经过几代数据平台的验证，发现数据治理是平台建设的主要限制因素，而且随着投资和建设的投入增加，对数据治理的重要性的认识也慢慢变得深刻。

  人民银行与银监会也很看重数据治理，从 08 年开始，在全国银行业推行统一的数据标准，控制行业的数据质量。工行、建行、国开等大型银行，对数据治理都很看重。08 年前，我们与国开一起开始了数据治理的建设，下图展示的就是国开银行针对数据全生命周期的数据管控。

  如今各行业都开始了大数据平台的建设，希望利用大数据的能力，来实现数字化转型。大数据平台的建设本质上还是数据的建设，传统数据平台碰到的所有问题大数据平台都可能会碰到，由于数据量级的变化，大数据平台必然还会产生新的问题。

  数据不可知：用户不知道大数据平台中有哪些数据，也不知道这一些数据和业务的关系是什么，虽然意识到了大数据的重要性，但平台中有没有能解决自己所面临业务问题的关键数据?该到哪里寻找这些数据?

  数据不可控：数据不可控是从传统数据平台开始就一直存在的问题，在大数据时代表现得更明显。没有统一的数据标准导致数据难以集成和统一，没有质量控制导致海量数据因质量过低而难以被利用，没有能有效管理整个大数据平台的管理流程。

  数据不可取：用户即使清楚自己业务所需要的是哪些数据，也不能便捷自助地拿到数据，相反，获取数据需要很长的开发过程，导致业务分析的需求难以被快速满足，而在大数据时代，业务追求的是针对某个业务问题的快速分析，这样漫长的需求响应时间是难以满足业务需求的。

  数据不可联：大数据时代，企业拥有着海量数据，但企业数据知识之间的关联还比较弱，没有把数据和知识体系关联起来，企业员工难以做到数据与知识之间的快速转换，不能对数据来进行自助的的探索和挖掘，数据的深层价值难以体现。

  通过分析以上四类问题，我们得知传统数据平台面临的问题，在大数据时代不仅没有消失，还不断涌现出新的问题，传统的数据治理需要提升能力，来解决大数据平台建设过程中的这些问题。

  在传统数据平台阶段，数据治理的目标主要是做管控，为数据部门建立一个的治理工作环境，包括标准、质量等。在大数据平台阶段，用户对数据的需求持续增长，用户范围从数据部门扩展到全企业，数据治理不能再只是面向数据部门了，需要成为面向全企业用户的工作环境，需要以全企业用户为中心，从给用户更好的提供服务的角度，管理好数据的同时为用户更好的提供自助获得大数据的能力，帮企业完成数字化转型。

  很多企业经过一段时间的摸索，已经看到了用户对大数据治理的这种需求，大数据治理也持续在各行业的大数据平台建设中得到关注。

  在我参与过的项目中给大家举个例子。最近普元主导了某电力公司的新一代数据治理平台建设，我们融合该电力公司现在存在的数据管理工具建设成果，以元数据为基础，实现了贯穿数据设计、产生、存储、迁移、使用、归档等环节的数据全生命周期管理，以及数据从源端到数据中心，再到应用端的全过程的管理，做到了以用户为中心，通过大数据治理，为用户更好的提供了更便捷、更灵活、更准确地获得企业大数据资产的能力。

  该电力公司的大数据治理的起点是先以元数据为基础，构建数据资产管理体系。从用户的视角说明白企业数据有哪些，哪些用户能使用。在该电力公司的数据资产定义过程中，我们选择了贴近业务用户的数据分类方案，梳理和识别企业运营数据资源。

  我们又基于***步形成的数据分类管理体系框架，梳理、整合各级各类数据资源，建立了数据资产树，按照不同数据细类制定相应的工作模板，对指标数据和明细数据进行梳理和归并。

  所有资产梳理和控制的最终目标都是为了用户可使用数据，我们通过 L0L1L2 三个层次的定义，以业务驱动为导向提高数据查询的实用性。

  L0：按照电网业务域业务主题业务活动的结构化方法，对查询进行分类导航。

  L1：依据业务和数据源中数据资源情况，按业务主题对数据来进行预处理和定义。

  我们通过梳理数据、管理数据、提供数据、关联业务，形成了一整套以用户为中心的大数据治理能力，最终为用户直接使用数据提供了帮助，从而使数据治理完成了从以管控为中心到以业务为中心的转变。由于受限于篇幅这里不过多描述。

  在***阶段，主要是对企业大数据的梳理，从而全面掌握企业大数据的情况，主要有以下三个方面。

  在第二阶段，需要建立大数据管控能力，包括从业务的角度梳理企业数据质量问题，形成质量控制能力，形成核心数据标准，并抓标准落地。针对关键问题，建立数据的管理流程，少而精，控制核心问题。

  在这个阶段主要是为数据部门形成一套管理大数据的能力，同时为数据部门形成数据管理的工作环境。

  通过前两个阶段，企业能够建立基本的数据治理的能力，在此基础上，还需要以用户为中心，为用户提供直接获取数据的能力。第三阶段依赖于前两个阶段能力的建设，在这个阶段的目标是向用户提供自助化的数据服务，使用户能自助地获取和使用数据，并且在用户的使用过程中再反过去进一步落地标准、控制质量。

  ***一个阶段是将数据沉淀成为知识，形成企业的知识图谱，提供从“关系”的角度去分析问题的能力。

  人进行数据搜索是通过业务术语(知识)来搜索的，而知识之间是有相互联系的，例如水果和西红柿是上下位关系(后者是前者的具体体现)，好的搜索除了要列出直接结果，还需要显示与之关联的知识，这就要建立知识图谱。

  简单说知识图谱就是概念、属性以及概念之间的关联关系，这个关系可以手工建立，也能通过自然语言处理等方法，对政策、法规、需求、数据库 comments、界面等多种来源进行分析，自动化建立起企业知识图谱。从而使数据治理成为整个企业的数据工作环境，强化企业数据与知识体系之间的关联，加快企业员工数据与知识之间的转换效率，让数据的深层价值得以体现。

  通过这四个阶段的建设，使数据治理平台由数据部门的工作环境，转变成为全企业的数据工作环境，以用户为中心，让用户能够直接使用大数据，并通过用户的使用来管理数据，持续优化数据质量，在达到治理数据目标的同时，也***限度发挥了数据的价值。

  以用户为中心的自服务大数据治理技术架构包括五部分：数据资产管理、数据监控管理、数据准备平台、数据服务总线，消息与流数据管理。

  整个平台分为五块核心能力：数据资产、数据准备、数据服务总线、消息 & 流数据管理、数据监控管理。

  数据资产管理是对企业数据信息统一管理也是整个平台的基础，数据准备平台是资产服务化的加工厂，它不但能将原始数据通过服务形式以用户能看懂的方式提供，也可以通过在线数据模型设计实现最终数据产品的发布，起到承上启下的作用。

  数据服务总线和消息 & 流数据管理的价值层次是一致的，只是从数据时效性上面对数据来进行了区分，去适应用户不同的管理和应用诉求。起到数据通道和安全管理两个核心内容。

  数据监控管理有别于大数据中的数据节点管理，而是从数据管理的视角切入对数据的结构的变化、关系的变化进行管理和控制，它是数据持续发挥价值的监管者。

  基于企业元数据信息，通过自然语言处理、机器学习、模式识别等算法，以及业务规则过滤，实现知识提取;

  通过知识图谱关系，利用智能搜索、关联查询手段，为最终用户更好的提供更加精确的数据;

  数据内容安全管理包括对 IT 系统和数据进行敏感度等级划分的定义、浏览、检核，辅助安全规则在业务、技术领域的应用。从功能上包括数据敏感性分级、系统敏感性分级，数据安全策略定义管理，安全策略输出，安全管理报告，数据安全检核，敏感数据角色管理，敏感数据权鉴管理及相关电子审批流程。

  数据治理平台提供实时、全面的数据监控，不仅能从作业、模型、物理资源等各方面进行全面的数据资产盘点，还能对数据及时性、问题数据量等方面的数据健康环境进行全面的预警。

  数据需要以服务的形式提供给最终用户，在服务的提供上不能再采用传统的方式，而需要用微服务的方式提供，每个单独数据微服务自己对所提供数据做缓存，在其中利用元数据能力，把知识(业务模型)与技术(数据模型)相结合，从而向最终数据用户更好的提供多种数据能力，使用户能以多种方式使用数据。

  ***在整个大数据治理平台的构建中还需要满足一系列原则，详情参考我写过的《敏捷数据管理的 12 个技术原则》。

  大数据时代，企业急需建立以用户为中心的自服务大数据治理，信息梳理、数据管控、连接用户、智能化是实现自服务大数据治理的四个主要阶段，掌握一系列关键技术和技术原则，是实现自服务大数据治理的重要基础。