| 经过多年来企业信息化建设,大部分都拥有了自己的财务,OA,CRM 等软件。这些系统都有自己的独立数据库,记录着企业运行情况某个方面的数据。但是单独看这些系统的报表,并不一定能对企业运行情况有全面客观的了解。就像只凭身高不能判断一个人是否健康,所以体检的时候我们需要化验许多指标,做各种检测,就是为了对身体情况有更全面的了解,作出更准确的判断。 | |
| 同样对一个企业,不能仅根据出勤率就判断一个人的绩效高低,因为你不知道他的工作成果情况。仅根据财务报表输入支出也体现不了各部门的收益情况,这个部门有多少工作人员,完成了哪些任务你也不知道。正式由于这种需求,产生了OLAP(Online analytical processing )应用,在建立了汇集各系统数据的数据仓库后,OLAP应用可以快速解析多维的查询分析,针对查询出的数据,用户也可以方便的进行钻取,如查询出了年度数据,可以很方便的查看月度数据;查询好地区的数据,可以再看相应城市的数据,还可以显示相应的趋势图,柱状图,饼图等,从而给决策者的判断提供有效的数据支持。 数据抽取:我们做饭之前,先要从菜场各个摊位去买我们需要的原材料,如青菜,番茄,鸡蛋,和鱼,然后把菜上的老叶子去掉,鱼鳞和内脏去掉,洗干净。建立OLAP应用之前,我们要想办法把各个独立系统的数据抽取出来,经过一定的转换和过滤,存放到一个集中的地方,成为数据仓库。这个抽取,转换,加载的过程叫ETL(Extract, Transform,Load).相应的开发工具Oracle有DataStage,微软有SQL Server Integration Services,Pentaho有Kettle。这些ETL工具一般都支持图形化流程建模,文本文件映射导入,XML,XSLT,可执行SQL,java script等。 多维查询:准备好了原材料和相应的菜单,接下来就是根据要求烧菜了。这当中需要有一种表达需求的语言,例如同样是这个红烧鱼,有的人希望甜一些,有些人不喜欢放葱。如果有一个标准的语言描述这种执行要求,就能保证烧的菜符合你的口味了。同样,有了表达逻辑关系的模型Cube,数据仓库中也导入了业务数据,我们还要告诉执行引擎如何取得我们真正所要的数据。这个查询语言就是MDX(Multidimensional Expression),它是微软在1997年首次提出,并为多家厂商采用。如果要学习它的相关语法,微软MSDN上有详细的文档:http://technet.microsoft.com/zh-cn/library/bb500184.aspx 数据展现:烧好了菜,还要决定如何上菜,是用碗,用盘子还是砂锅,这些都要根据所做的菜式和客户要求。MDX查询返回的是多维数据,普通的二维表很难表现超过2个维度的数据,如果要进行数据的钻取等操作更是难上加难。各厂家的技术平台都有想应的实现技术。比较底层的界面表现技术Oracle 有Business Intelligence Beans,开源的有JPivot,这些需要开发相应的展示页面和维护界面,但可以和已有的系统紧密结合。另外为了方便用户使用和维护,也有做成可运行程序的系统平台。如Oracle有Oracle Business Intelligence Foundation,开源的有SpagoBI,Pentaho BI Platform等。这些系统都有完整的DashBoard,多维查询,报表等功能,使用维护都比较方便,缺点就是比较庞大笨重。 用户需求决定了如何设计模型和数据仓库,数据模型又是描述数据仓库的逻辑关系,而数据模型和数据仓库的某些技术限制也可能影响用户需求的实现。这三者之间是相互依存和影响着的。而MDX查询,又是这三者之间的粘合剂,它表达了用户的需求,经过OLAP引擎的解析,根据数据模型的描述,从数据仓库找到所需要的数据。 |
相关推荐
高云FPGA系列教程(2):FPGA点灯工程创建、程序下载和固化
相比于国外FPGA厂商EDA开发环境,几个G到几十个G的大小,高云云源软件安装包也很小巧,界面也很简洁,综合速度非常快,是我没想到的,好像在使用单片机一样,点一下就编译完成了,以本文简单的LED示例工程为例,比特流文件几乎在几秒钟内生成;无论是下载比特流文件到RAM还是Flash中,速度都很快,而且只有一种fs程序文件格式,不用再进行bit/mcs转换;云源软件自带的编辑器也很好用,和Notepad++界面差不多,而且快捷键很方便,具有基本的自动补全功能。
DB、ETL、DW、OLAP、DM、BI关系结构图
DB、ETL、DW、OLAP、DM、BI关系结构图 在此大概用口水话简单叙述一下他们几个概念: (1)DB/Database/数据库——这里一般指的就是OLTP数据库,在线事物数据库,用来支持生产的,比如超市的买卖系统。DB保留的是数据信息的最新状态,只有一个状态!比如,每天早上起床洗脸照镜子,看到的就是当时的状态,至于之前的每天的状态,不会出现的你的眼前,这个眼前就是db。 (2)...
动态视频目标追踪系统:基于YOLOv11+DeepSORT的从入门到实战全流程指南
仅保留车辆类别(假设车辆类别ID为2)if det.class_index == 2: # 车辆类别ID通过本指南,你已完成从环境搭建数据准备模型训练到追踪系统与UI界面的全流程,搭建了一套完整的动态视频目标追踪系统。该系统在安防监控、交通管理等场景中具有实用价值,可实现目标的实时稳定追踪。未来,你可尝试结合多模态特征(如目标外观+运动特征)提升追踪鲁棒性,或探索轻量化模型部署(如TensorRT加速),让系统在边缘设备上也能高效运行。
什么是ETL和OLAP?
ETL即数据抽取(Extract)、转换(Transform)、装载(Load)的过程。它是构建数据仓库的重要环节。数据仓库是面向主题 的、集成的、稳定的且随时间不断变化的数据集合,用以支持经营管理中的决策制定过程。数据仓库系统中有可能存在着大量的噪声数据,引起的主要原因有:滥用 缩写词、惯用语、数据输入错误、重复记录、丢失值、拼写变化等。即便是一个设计和规划良好的数据库系统,如果其中存在着大量的噪声数据,那么这个系统也是 没有任何意义的,因为“垃圾进,垃圾出”(garbage in, garbage ou
olap分析平台的设计与实现(十五)- 整体方案概述
为什么要搞非税olap分析平台: 目前我还没看到一个完整的国产非税olap分析产品。财政数据规范程度高,etl过程简单。容易实现olap.希望能通过mdx动态生成,以olap技术为基础,为用户探索数据提供手段。 数据仓库产品的总体结构大同小异 这里盗用网上一张图说明: 具体的olap相关技术说明,我这里就不展开。 本系统的数据来源:非税业务系统中的数据,特别是非税系统中流水主从表。 ...
数仓特性、数仓分层、OLAP、OLTP、数据集市 名词概念
此层存放未经过处理的原始数据至数据仓库系统,结构上与源系统保持一致,是数据仓库的数据准备区。主要完成基础数据引入到数仓的职责,和数据源系统进行解耦合,同时记录基础数据的历史变化。根据源业务系统表的情况以增量或全量方式抽取数据;ODS层以流水表和快照表为主,按日期对数据进行分区保存,不使用拉链表;ODS层的数据不做清洗和转换,数据的表结构和数据粒度与原业务系统保持一致。
浅谈OLAP系统各个核心技术点
OLAP系统广泛应用于BI、Reporting、Ad-hoc、ETL数仓分析等场景,本文主要从体系化的角度来分析OLAP系统的核心技术点,从业界已有的OLAP中萃取其共性,分为4个章节。
OLAP之全过程介绍(ETL过程)转
http://space.itpub.net/23895263/viewspace-693828经过多年来企业信息化建设,大部分都拥有了自己的财务,OA,CRM 等软件。这些系统都有自己的独立数据库,记录着企业运行情况某个方面的...
从零开始搭建大数据OLAP分析平台
OLAP(Online Analytical Processing)是一种基于多维数据模型的数据分析技术,它允许用户从多个维度对数据进行快速、灵活的查询和分析。多维概念视图(Multidimensional Conceptual View):提供对数据的多维视角透明性(Transparency):用户无需了解数据存储细节访问能力(Accessibility):确保数据易于访问一致的报表性能(Consistent Reporting Performance):无论数据量和复杂度如何,查询性能应保持稳定。
BI基本架构和ETL断想
Business Intelligence(BI) = Data Warehouse(DW) + OLAP + Data Mining(DM) 商业智能=数据仓库+联机分析+数据挖掘 做BI的目的是帮助用户进行决策分析,从多维的角度来分析现状,给决策者做出正确的决策提供可靠的数据基础与背景,为企业的发展做出正确的导向。然而在国 内做BI确走入了一个误区,通常客户拿BI当报表系统来
(转)BI流程
<br /> Business Intelligence(BI) = Data Warehouse(DW) + OLAP + Data Mining(DM)<br /> 商业智能=数据仓库+联机分析+数据挖掘<br /> 做BI的目的是帮助用户进行决策分析,从多维的角度来分析现状,给决策者做出正确的决策提供可靠的数据基础与背景,为企业的发展做出正确的导向。然而在国 内做BI确走入了一个误区,通常客户拿BI当报表系统来用,这有点大才小用的感觉,还有就是各个公司水平不同,常常有个别公司拿着拿着非BI
CDA 数据分析师 Level1 基本知识(1)
CDA Level 备考知识点
转自高手的东西
Business Intelligence(BI) = Data Warehouse(DW) + OLAP + Data Mining(DM) 商业智能=数据仓库+联机分析+数据挖掘 做BI...
大数据技术整理
目录 一. Hadoop Hadoop Yarn MapReduce Hdfs CDH|Cloudera Manager 二. 数据分析 Hive Impala 三. 离线和实时数据处理 Flink Spark Storm Kafka 四. OLAP分析平台 Kylin 五. 日志数据采集工具 Flume ELK(Elasticsearch、Log...
Issue 3:数据处理基本认识
介绍 传统数据库对数据处理一般都分成两类:OLTP和OLAP。 数据分析(OLAP)的前提条件是要准备数据。 然后才是具体的数据分析,对此,可以分为统计型的数据分析和挖掘性的数据分析。 最后对分析结果的后续处理,比较常见的有数据可视化展示等。 总之,面对具体问题,首先要搞清楚数据从哪儿来,到哪儿去的问题。 对于具体的处理方法和处理工具,今后会具体谈体聊。 数据前期处理 主要包括数据清洗,ETL转换...
OLAP之全过程介绍
经过多年来企业信息化建设,大部分都拥有了自己的财务,OA,CRM 等软件。这些系统都有自己的独立数据库,记录着企业运行情况某个方面的数据。但是单独看这些系统的报表,并不一定能对企业运行情况有全面客观的了解。就像只凭身高不能判断一个人是否健康,所以体检的时候我们需要化验许多指标,做各种检测,就是为了对身体情况有更全面的了解,作出更准确的判断。同样对一个企业,不能仅根据出勤率就判断一个人的绩效高低,因
ETL、DW、OLAP、DB、OLTP之间的关系
【代码】ETL、DW、OLAP、DB、OLTP之间的关系。
OLAP与OLTP的区别?
1. OLAP与OLTP的区别? OLTP(Online transaction processing):在线/联机事务处理。典型的OLTP类操作都比较简单,主要是对数据库中的数据进行增删改查,操作主体一般是产品的用户。 OLAP(Online analytical processing):指联机分析处理。通过分析数据库中的数据来得出一些结论性的东西。比如给老总们看的报表,用于进行市场开拓的用户行为统计,不同维...
etl olap
得到ETL的定义: 将数据抽取(Extract)、转换(Transform)、清洗(Cleansing)、装载(Load) MDX是一种和SQL类似的语言,它也可以用于查询、计算和定义一些元数据。只不过SQL是基于OLTP的,而MDX是基于OLAP的,也就是说,MDX是对多维数据进行查询的。和其它的OLAP语言不同,MDX并不完全是一种报告形式语言。但用MDX查询出来的结果仍然可以在客
5408


&spm=1001.2101.3001.11974&articleId=8651696&d=1&t=3&u=8a9012ab7d1d4467b9fe627cd35531d5)

被折叠的 条评论
为什么被折叠?



