7.0

View in English

7.0 第 7 部分导言:数据、分析与洞察

数据是大型组织所持有的最有价值的资产之一,也是被管理得最糟糕的资产之一。几乎每一个团队都在生产数据、依赖数据,并用数据来做决策。然而,对少数工程师而言行之有效的非正式习惯,一旦置于大型开发组织、企业和政府机构的规模之下就会土崩瓦解。数百个团队生成着数以千计的数据集。多个系统各自声称自己持有”真实”记录。而没有人能够自信地说出,究竟哪个数字才应该出现在董事会材料或公开报告里。本部分讲的正是如何把这种混乱转变为值得信赖的理解,并把理解转变为更好的决策。

风险是具体而实在的。监管机构期望看到对个人、财务和健康数据可证实的血缘关系和控制力。企业直接面临着因指标误报、审计失败和重复平台而带来的风险敞口。政府机构还额外承担着关于记录留存、公共问责制,以及公平对待公民的义务。在所有这些场景中,一份无法信任的数据比没有数据还要糟糕,因为它会驱动人们做出自信却错误的决策。因此,把数据做对,不是一个后台事务,而是关乎财务风险敞口、法律合规和公众信任的大事。

第 7 部分追随数据转变为价值的完整旅程。它始于一个组织如何决定把数据当作一项资产来对待。接下来是移动和塑造数据的工程实践,从中提炼意义的分析和实验,最后是让洞察真正改变人们行为方式的文化。贯穿始终的重点,是在大规模场景下做到这一切,同时不放弃对唯一真相版本的坚持。

本部分的章节

  • 7.1 数据战略与治理: 把数据当作一款产品来对待,拥有明确的所有者、接口和质量保证,并由让数据历经时间考验依然值得信赖且合规的治理学科所支撑:数据管护(stewardship)、编目、主数据管理(master data management,即把相互冲突的记录调和成一个权威版本),以及质量管理。

  • 7.2 数据工程: 构建并运营把数据从产生之处移动到创造价值之处的摄取、转换、存储和编排流水线,并使其保持幂等、可测试、可观测,且在规模化场景下依然经济可负担。

  • 7.3 分析与商业智能: 通过报表、仪表盘和自助式工具,把经过治理、经过工程化处理的数据转变为理解和行动,并以一个语义层为锚点,使每一项指标在任何地方都以一种约定一致的方式被定义和计算。

  • 7.4 产品分析与实验: 通过行为埋点来理解人们实际如何使用一款产品,并通过严谨的对照实验来确立因果关系,使产品决策从”我们认为”变成”我们测量到”,并且全程以尊重隐私、注重同意的方式进行。

  • 7.5 决策科学与数据驱动的文化: 使用统计学、行为科学和判断力,把数据与真实决策连接起来,构建一种能够诚实地推理因果关系、忠实地传达不确定性,并且既避免数据剧场、也避免侵入式监控的文化。

  • 7.6 实时与流式数据: 在延迟真正重要的场景下,随着无界数据的到达对其进行处理,用窗口和水位线(watermark)处理事件时间以及迟到或乱序数据,选择处理保证级别和幂等的接收端(sink),并通过变更数据捕获(change data capture)从运营型数据库中进行流式传输。

  • 7.7 数据建模与语义层: 在决定数据存放于何处之前,先通过概念、逻辑和物理模型来决定数据意味着什么,为分析场景做维度建模,并建立一个受治理的语义层,使每一项业务指标在任何地方都只有一个定义。

  • 7.8 数据质量与可观测性: 通过定义质量的各个维度,把数据当作一款带有保证的产品来对待,验证流水线并强制执行数据契约,并对新鲜度、数据量、模式和血缘关系进行监控,使数据事件能够像生产事件一样被捕获和解决。

  • 7.9 主数据与参考数据管理: 通过匹配、留存判定(survivorship)和数据管护,为客户、产品、供应商等核心实体创建一份唯一、值得信赖的黄金记录,并把共享的参考数据当作一套受控的、经过版本管理的词汇表来治理。

这些章节之间如何相互关联

这些章节构成了一个刻意设计的序列,每一层都建立在前一层之上。战略与治理(7.1)决定应该存在哪些数据、由谁拥有,以及”值得信赖”意味着什么。数据工程(7.2)是让经过治理的数据从源头可靠地流向消费者的管道。分析与商业智能(7.3)直接位于这些流水线的下游,把经过建模的数据转变为共享的指标和仪表盘,而这只有在上游定义受到治理的情况下才是安全的。产品分析与实验(7.4)在这一基础之上,增添了行为证据和因果关系方面的严谨性。最后,决策科学与数据文化(7.5)是压轴的一环:如果前面所有的战略、工程、分析和实验都不能让决策变得更好,那么它们就毫无价值。这条主线从治理延伸到工程,再到商业智能,再到实验,最后到决策文化,任何一个环节的薄弱,都会削弱其下游的一切。

本部分也向外延伸出联系。个人数据的治理高度依赖于隐私与数据保护(第 4.5 章)和合规(第 4.6 章),后两者设定了本部分必须满足的法律约束。数据流水线是软件系统,因此本指南其他部分所述的可靠性、测试和可观测性实践在此同样直接适用,包括第 6.2 章中的运营监控。而由于洞察最终是为了指导组织,本部分中的决策和度量实践,也强化了第 11 部分中的领导力和管理主题,例如第 11.1 章。把这些章节放在一起阅读,描述的是一个大型组织如何能够清楚地看见自己,并依据所见采取行动。