(最新整理)BI_数仓整理学习

1、(完整)bi_数仓整理学习(完整)bi_数仓整理学习 编辑整理：尊敬的读者朋友们：这里是精品文档编辑中心，本文档内容是由我和我的同事精心编辑整理后发布的，发布之前我们对文中内容进行仔细校对，但是难免会有疏漏的地方，但是任然希望（(完整)bi_数仓整理学习）的内容能够给您的工作和学习带来便利。同时也真诚的希望收到您的建议和反馈，这将是我们进步的源泉，前进的动力。本文可编辑可修改，如果觉得对您有帮助请收藏以便随时查阅，最后祝您生活愉快 业绩进步，以下为(完整)bi_数仓整理学习的全部内容。bi数据仓库学习整理学习整理1bibusiness intelligence，即商业智能，商务智能综合企业所有

2、沉淀下来的信息，用科学的分析方法，为企业领导提供科学决策信息的过程。boss业务运营支撑系bpm企业绩效管理bpr业务流程重整crm客户关系管理cube立方体dm（datamart)数据集市 数据仓库的子集，它含有较少的主题域且历史时间更短数据量更少，一般只能为某个局部范围内的管理人员服务,因此也称之为部门级数据仓库。dm（datamine）数据挖掘dss决策支持系统edm企业数据模型3erpenterprise resourse planning企业资源规划。它是一个以管理会计为核心的信息系统，识别和规划企业资源，从而获取客户订单，完成加工和交付，最后得到客户付款.换言之，erp将企业内部所

3、有资源整合在一起,对八个采购、生产、成本、库存、分销、运输、财务、人力资源进行规划,从而达到最佳资源组合,取得最佳效益.4etl数据抽取（extract）、转换(transform）、清洗（cleansing）、装载（load）的过程。构建数据仓库的重要一环，用户从数据源抽取出所需的数据，经过数据清洗，最终按照预先定义好的数据仓库模型，将数据加载到数据仓库中去。kdd数据库中知识发现5 kpi企业关键业绩指标(kpi：keyprocessindication）是通过对组织内部流程的输入端、输出端的关键参数进行设置、取样、计算、分析，衡量流程绩效的一种目标式量化管理指标，是把企业的战略目标分解为

4、可操作的工作目标的工具，是企业绩效管理的基础。ldm逻辑数据模型6 mdd多维数据库（multi dimesional database，mdd)可以简单地理解为：将数据存放在一个n维数组中，而不是像关系数据库那样以记录的形式存放。因此它存在大量稀疏矩阵,人们可以通过多维视图来观察数据.多维数据库增加了一个时间维,与关系数据库相比，它的优势在于可以提高数据处理速度，加快反应时间，提高查询效率。metadata（元数据),它是“关于数据的数据，其内容主要包括数据仓库的数据字典、数据的定义、数据的抽取规则、数据的转换规则、数据加载频率等信息。molap自行建立了多维数据库，来存放联机分析系统数据7

5、 ods（四个特点）（oprational data store)操作型数据存储,是建立在数据准备区和数据仓库之间的一个部件。用来满足企业集成的、综合的操作型处理需要，操作数据存储是个可选的部件。对于一些准实时的业务数据库当中的数据的暂时存储，支持一些同时关连到历史数据与实时数据分析的数据暂时存储区域。8 什么是数据集市dm数据集市可以看作是数据仓库的一个子集，它含有较少的主题域且历史时间更短数据量更少,一般只能为某个局部范围内的管理人员服务，因此也称之为部门级数据仓库。二 数据仓库dwdatawarehouse,数据仓库是一个集合或过程，4要素面向主题，集成，时间相关（反映历史变化)， （稳

6、定）不可修改的数据集合。数据仓库是在企业管理和决策中面向主题的、集成的、与时间相关的、不可修改的数据集合。与其他数据库应用不同的是，数据仓库更像一种过程，对分布在企业内部各处的业务数据的整合、加工和分析的过程。特点传统操作型数据库数据仓库面向主题菜市场按功能来分类每一个模块就如一个小摊位，萝卜，青菜都有超市按类型分类如都为利润的分为一个事实表事实表和维表的分类集成的与特定的应用相关,数据库之间独立的有联系,etl的过程已经是将多个数据库联系统一,去除之间的不一致性。相对稳定通常实时更新，数据根据需要及时发生变化供企业决策分析之用，数据操作主要是数据查询,一旦某个数据进入数据仓库以后，一般情况下

7、将被长期保留,也就是数据仓库中一般有大量的查询操作，但修改和删除操作很少,通常定期的加载、刷新.反映历史变化主要关心当前某一个时间段内的数据包含历史信息，系统记录了企业从过去某一时点下图是一个典型的企业数据仓库系统，通常包含数据源、数据存储与管理、数据的访问三个部分：最为重要的一张图这张图可以看出四个特点中，面向对象，集成，数据源：是指企业操作型数据库中的各种生产运营数据 即olip 数据的存储与管理：数据仓库的存储主要由元数据的存储及数据的存储两部分组成。元数据是关于数据的数据，其内容主要包括数据仓库的数据字典、数据的定义、数据的抽取规则、数据的转换规则、数据加载频率等信息。各操作数据库中的

8、数据按照元数据库中定义的规则,经过抽取、清理、转换、集成，按照主题重新组织，依照相应的存储结构进行存储数据的访问:由olap(联机分析处理）、数据挖掘、统计报表、即席查询等几部分组成.例如olap：针对特定的分析主题，设计多种可能的观察形式，设计相应的分析主题结构（即进行事实表和维表的设计),使管理决策人员在多维数据模型的基础上进行快速、稳定和交互性的访问，并进行各种复杂的分析和预测工作。按照存储方式来分,olap可以分成molap以及rolap等方式,molap (multi-dimension olap）将olap分析所需的数据存放在多维数据库中。分析主题的数据可以形成一个或多个多维立方体

9、。rolap（relational olap）将olap分析所需的数据存放在关系型数据库中。分析主题的数据以“事实表维表”的星型模式组织。三 企业信息工厂企业信息工厂(corporate information factory，简称eif）是一种构建数据仓库的架构。企业信息工厂主要包括五个集成转换层（i&t）、操作数据存储（ods）、企业级数据仓库（edw）、数据集市（dm)、探索仓库（ew)等部件。这些部件有机的结合在一起，为企业提供信息服务。企业级数据仓库是企业信息工厂的核心部件,用来保存整个企业的数据。一般，也称数据仓库，是用来满足企业战略决策的需要。数据仓库的数据来自数据准备区和操作数

10、据存储。数据集市的数据来源是数据仓库。企业信息工厂中的数据集市一般来说是非规范化的、定制的和汇总的。而多维体系架构中的数据集市分为两种，分别是原子数据集市和聚集数据集市.一般来说，企业信息工厂中的数据集市相当于多维体系架构中的聚集数据集市。企业信息工厂中的数据流向一般是从源系统到数据准备区到操作数据存储到数据仓库到数据集市维dimension维,是人们观察数据的特定角度，是考虑问题时的一类属性，属性集合构成一个维。商店、时间和产品都是维。各个商店的集合是一个维，时间的集合是一个维，商品的集合也是一个维。代理关键字（维id)代理关键字一般是指维度表中使用顺序（序列）分配的整数值作为主键，也称为“

11、代理键。代理关键字用于维度表和事实表的连接。使用代理关键字可以用来处理缓慢变化维。维度表数据的历史变化信息的保存是数据仓库设计的实施中非常重要的一部分。kimball的缓慢变化维处理策略的核心就是使用代理关键字。优点1缓冲2性能3建不存在的维度记录4缓慢变化维处理缓慢变化维（能力的体现)随着时间的流失发生缓慢的变化处理缓慢变化维的方法通常有三种方式：第一种方式是直接覆盖原值。这样处理，最容易实现，但是没有保留历史数据，无法分析历史变化信息。第一种方式通常简称为“type 1.第二种方式是添加维度行。这样处理，需要代理键的支持.实现方式是当有维度属性发生变化时，生成一条新的维度记录,主键是新分配

12、的代理键，通过自然键可以和原维度记录保持关联。第二种方式通常简称为“type 2”。第三种方式是添加属性列。这种处理的实现方式是对于需要分析历史信息的属性添加一列,来记录该属性变化前的值，而本属性字段使用type 1来直接覆盖.这种方式的优点是可以同时分析当前及前一次变化的属性值，缺点是只保留了最后一次变化信息。第三种方式通常简称为“type 3”。退化维度事实表中的部分id如订单号,但他没有对应的维度表，这编号称为退化维微型维度为了解决快变超大维度，解决的方法是，将分析频率比较高或者变化频率比较大的字段提取出来，建立一个单独的维度表。这个单独的维度表就是微型维度表。多维体系结构(md）中的三

13、个关键性概念，一致性维度，总线架构(bus architecture）和一致性事实（conformed fact）一致性维度解决数据仓库的集成问题在多维体系结构中，没有物理上的数据仓库，由物理上的数据集市组合成逻辑上的数据仓库.而且数据集市的建立是可以逐步完成的,最终组合在一起，成为一个数据仓库。如果分步建立数据集市的过程出现了问题,数据集市就会变成孤立的集市，不能组合成数据仓库,而一致性维度的提出正式为了解决这个问题。一致性维度的范围是总线架构中的维一致性维度建立的地点是多维体系结构的后台（back room）,即数据准备区。在同一个集市内，一致性维度的意思是两个维度如果有关系事实表，主要有

14、三种事实表，分别是事务粒度事实表（transaction grain fact table），周期快照粒度事实表(periodic snapshot grain facttable)和累积快照粒度事实表（accumulating snapshot grain fact table）;从用途的不同来说，事实表可以分为三类，分别是原子事实表,聚集事实表和合并事实表。粒度分类事务事实表（transaction fact table)记录的事务层面的事实，保存的是最原子的数据，也称“原子事实表”周期快照事实表（periodic snapshot fact table）以具有规律性的、可预见的时间间隔来

15、记录事实，时间间隔如每天、每月、每年等等用途分类聚集事实表（aggregated fact table）是原子事实表上的汇总数据,也称为汇总事实表如只有月度维，求和,平均值等合并事实表建立一个事实表,它的维度是两个或多个事实表的相同维度的集合聚集事实表和合并事实表的主要差别是合并事实表一般是从多个事实表合并而来。但是它们的差别不是绝对的，一个事实表既是聚集事实表又是合并事实表是很有可能的。因为一般合并事实表需要按相同的维度合并，所以很可能在做合并的同时需要进行聚集，即粒度变粗。非重点预连接聚集表(prejoined aggregagte table）是通过对事实表和维度表的联合查询而生成的一类

16、汇总表。在预连接聚集表中，保存有维度表中的描述信息和事实表的事实值。切片事实表切片事实表的结构与相对应的基础表相同，数据来源于相对应的基础表。切片事实表由于缩小了表中数据的记录数，所以查询的效率得到了很大的提高蜈蚣事实表)是指那些一张事实表中有太多维度的事实表 事实表相关的维度在15个以下为正常,如果维度个数超过25个，就出现了维度过多的蜈蚣事实表一致性事实一致性事实和一致性维度有些不同，一致性维度是由专人维护在后台(back room），发生修改时同步复制到每个数据集市,而事实表一般不会在多个数据集市间复制.需要查询多个数据集市中的事实时,一般通过交叉探查（drill across）来实现.

17、1。5 数据集市即席查询即席查询的位置通常是在关系型的数据仓库中：操作数据存储(ods）是面向主题的、集成的、可变的、反映当前数据值的和详细的数据的集合，用来满足企业综合的、集成的以及操作型的处理需求.个人不建议ods保存相当长周期的数据,同样ods中的数据也尽量不做转换,而是原封不动地与业务数据库保持一致。即ods只是业务数据库的一个备份或者映像，目的是为了使数据仓库的处理和决策支持要求与oltp系统相隔离，减少决策支持要求对oltp系统的影响。ods的四个作用在业务系统和数据仓库之间形成一个隔离层分担转移一部分业务系统细节查询的功能完成数据仓库中不能完成的一些功能ods是细节数据仓库是汇总

18、元数据随着数据仓库（dw）技术的不断成熟，企业的数据逐渐变成了决策的主要依据。数据仓库中的数据是从许多业务处理系统中抽取、转换而来，对于这样一个复杂的企业数据环境，如何以安全、高效的方式来对它们进行管理和访问就变得尤为重要。解决这一问题的关键就是建立数据仓库元数据etl（重点）etl/bi=1/3, (bi的成败）t/etl=2/3 so t/bi=2/91/4etl是bi项目重要的一个环节。通常情况下,在bi项目中etl会花掉整个项目的1/3的时间,etl设计的好坏直接关接到bi项目的成败。etl三个部分中，花费时间最长的是“t”(transform，清洗、转换）的部分,一般情况下这部分工作

19、量是整个etl的2/3。就是整个项目的/差不多四分之一etl的实现有多种方法，常用的有三种。一种是借助etl工具实现，一种是sql方式实现，另外一种是etl工具和sql相结合数据抽取（三种情况)1在dw数据库服务器和原业务系统之间建立直接的链接关系就可以写select语句直接访问2不同的数据源解决方法：odbc的方式建立数据库链接或方法三3 txt xml利用数据库工具将这些数据导入到指定的数据库，然后从指定的数据库中抽取4增量更新的问题数据清洗1不完整的数据2错误的数据3重复的数据数据转换1不一致数据转换: 抽取过来之后统一转换成一个编码2数据粒度的转换：业务系统数据按照数据仓库粒度进行聚合

20、。3商务规则的计算：etl中将这些数据指标计算好了之后存储在数据仓库中，以供分析使用数据加载策略1时间戳方式2日志表方式3全表比对方式upset4全表删除插入方式olaponline transaction processing联机事务处理系统(oltp）也称为面向交易的处理系统,其基本特征是顾客的原始数据可以立即传送到计算中心进行处理，并在很短的时间内给出处理结果.这样做的最大优点是可以即时地处理输入的数据，及时地回答。也称为实时系统(real time system）。olap （联机分析处理系统）多维数据分析工具的集合联机分析处理是使分析人员、管理人员或执行人员能够从多种角度对从原始数据

21、中转化出来的、能够真正为用户所理解的、并真实反映企业维特性的信息进行快速、一致、交互地存取,从而获得对数据的更深入了解的一类软件技术。钻取（drill） ：它是改变维的层次，变换分析的粒度。钻取包含向下钻取(drilldown）和向上钻取（drillup)/上卷(roll-up）操作，roll up是在某一维上将低层次的细节数据概括到高层次的汇总数据,或者减少维数;而drill down则相反，它从汇总数据深入到细节数据进行观察或增加新维。olap的实现方法，根据存储数据的方式不同可以分为rolap、molap、holap表示基于关系数据库的olap实现rolap（事实表维度表的设计）将多维数

22、据库的多维结构划分为两类表:一类是事实表，用来存储数据和维关键字；另一类是维表，即对每个维至少使用一个表来存放维的层次、成员类别等维的描述信息。维表和事实表通过主关键字和外关键字联系在一起,形成了“星型模型。对于层次复杂的维，为避免冗余数据占用过大的存储空间，可以使用多个表来描述,这种星型模型的扩展称为“雪花模型。molap表示基于多维数据组织的olap实现（multidimensional olap）。以多维数据组织方式为核心，也就是说,molap使用多维数组存储数据.多维数据在存储中将形成“立方块（cube）”的结构,在molap中对立方块的“旋转”、“切块”、“切片是产生多维数据报表的主

23、要技术。旋转 行列转换一条记录中的多个事实字段转化为多条记录切块切片的字段结构和相应的基础表完全相同,差别在于存储的记录的范围。切片事实表中保存记录的是相应基础表中记录的子集，记录数通常与某个维度记录数相同.olap存储方式优缺点一. 多维存储方式（molap）molap在服务器上对数据立方体数组及其管理技术的实现，可以所有的信息查询都从molap服务器上获得。n 优势 性能好、响应速度快； 支持高性能的决策支持计算; 复杂的跨维计算； 多用户的读写操作。n 缺点 占用的存储空间较大 难以达到tb 级数据量； 需要进行预计算，可能导致数据爆炸； 无法支持维的动态变化； 缺乏数据模型和数据访问的标准。二. 关系数据库存储方式（rolap）rolap充分利用关系数据库技术将明细数据和聚合数据存储在一个关系型结构中的存储方式.n 优势 没有大小限制;现有的关系数据库的技术可以沿用； 可以通过sql实现详细数据与概要数据的储存； 现有关系型数据库已经对olap做了很多优化,包括并行存储、并行查询、位图索引、sql 的ola