谈谈我的数据仓库经历

简介:

目前还是大数据的时代,传统的数据仓库早就跟不上大数据的发展。还记得初入数据仓库这行时,那时候的用的还是oracle+obiee。数据量大到上千万的时候,前端完全加载不出来。而且那时候的数仓设计,由于数据仓库用的oracle,费用比较贵,所以尽量的用时间换空间,前端会存在很多维表和事实表的关联,甚至有些计算都会放到前端计算。这样就导致用户体验非常差。后面hadoop起来了,分布式的数据仓库很好的顺应了大数据的时代要求,用空间换时间和用户体验,所以基本上计算逻辑都由后台计算了,前端只是表对表的加载而已。所以,目前市面上的各种维度建模都大同小异,无非都是ODS保留贴源数据,DW层会划分为两个细分层级,一个是明细,用来清洗数据,一个是汇总数据,用来过滤口径等,最后还有一个DM层(有些厂可能不这么叫),这一层主要是面向应用,包括可视化,大屏,移动端等等。不知道你们所在的公司,数据仓库,在数仓模型这块有什么不同呢?欢迎留言讨论!!!

相关文章
|
存储 数据采集 监控
【2022持续更新】大数据最全知识点整理-数据仓库篇
【2022持续更新】大数据最全知识点整理-数据仓库篇
1311 0
【2022持续更新】大数据最全知识点整理-数据仓库篇
|
25天前
|
存储 数据采集 数据挖掘
【软件设计师备考 专题 】数据仓库和分布式数据库基础知识
【软件设计师备考 专题 】数据仓库和分布式数据库基础知识
194 0
|
1月前
|
分布式计算 大数据 Hadoop
数据仓库(13)大数据数仓经典最值得阅读书籍推荐
从事数仓工作,在工作学习过程也看了很多数据仓库方面的数据,此处整理了数仓中经典的,或者值得阅读的书籍,推荐给大家一下,希望能帮助到大家。建议收藏起来,后续有新的书籍清单会更新到这里。
157 2
数据仓库(13)大数据数仓经典最值得阅读书籍推荐
|
5月前
|
存储 SQL 关系型数据库
细谈数据仓库
细谈数据仓库
70 0
|
7月前
|
存储 数据挖掘 大数据
第16章 数据仓库与联机分析处理技术——复习笔记
第16章 数据仓库与联机分析处理技术——复习笔记
|
8月前
|
存储 架构师 NoSQL
一口气讲完数据仓建模方法--数据仓库架构师碎碎念
一口气讲完数据仓建模方法--数据仓库架构师碎碎念
|
SQL 存储 数据采集
数据仓库工程师面试题
数据仓库工程师面试题
|
存储 SQL 数据挖掘
大数据时代,数据仓库究竟是干嘛的?
大数据时代,数据仓库究竟是干嘛的?
212 0
大数据时代,数据仓库究竟是干嘛的?
|
存储 人工智能 自动驾驶
谈谈数据管理的前世今生
我第一次接触数据仓库是在20世纪末。它给我留下了深刻的印象,因为它是管理数据的第一个真正的体系结构方法,在此之前,我已经在异构数据库和点对点应用程序接口的世界中工作了多年。
谈谈数据管理的前世今生