1、背景
为了避免底层业务变动对上层需求影响过大,屏蔽底层复杂的业务逻辑,尽可能简单、完整的在接口层呈现业务数据,建设高内聚松耦合的数据组织,使数据从业务角度可分割,显得尤为重要。
从整个集团业务条线出发,形成数据仓库总体概念框架,并对整个系统所需要的功能模块进行划分,明确各模块技术细节,建设一套完整的开发规范。
2、分层规范
ODS(原始数据层):ODS层是数据仓库准备区,为DWD层提供基础原始数据。
DWD(明细数据层):和ODS粒度一致的明细数据,对数据进行去重,脏数据过滤,空处理,保证数据质量。
DWS(服务数据层):轻度汇总数据及建宽表(按主题)存放数据。
ADS(应用数据层):存放应用类表数据。
3、表规范
3.1 命名
维表 命名形式:dim_描述
事实表 命名形式:fact_描述_[AB]
本文介绍了大数据技术中数据仓库的开发规范,包括分层规范、表规范、字段规范和代码规范。分层规范涵盖ODS到ADS各层级的定义;表规范详细说明了命名、注释、存储格式和字符集;字段规范涉及命名、注释和数据类型选择;代码规范重点讨论了SQL和shell脚本的编写注意事项,强调了各层之间的依赖关系和良好的代码风格。
订阅专栏 解锁全文

2875

被折叠的 条评论
为什么被折叠?



