首页
题库
公司真题
专项练习
面试题库
在线编程
面试
面试经验
AI 模拟面试
简历
求职
学习
基础学习课
实战项目课
求职辅导课
专栏&文章
竞赛
搜索
我要招人
发布职位
发布职位、邀约牛人
更多企业解决方案
AI面试、笔试、校招、雇品
HR免费试用AI面试
最新面试提效必备
登录
/
注册
元中心蘑菇王
门头沟学院 数据分析师
发布于美国
关注
已关注
取消关注
repost
@蓦_然:
数据仓库面试题——介绍下数据仓库
可回答:对数据仓库的理解 问过的一些公司:京东,美团,网易,阿里(2021.09),网易有道(2021.10) 参考答案: 数据仓库的发展大致经历了这样的三个过程: 简单报表阶段:这个阶段,系统的主要目标是解决一些日常的工作中业务人员需要的报表,以及生成一些简单的能够帮助领导进行决策所 需要的汇总数据。大部分表现形式为数据库和前端报表工具。 数据集市阶段:这个阶段,主要是根据某个业务部门的需要,进行一定的数据的采集,整理,按照业务人员的需要,进行多维报表的展现,能够提供对特定业务指导的数据,并且能够提供特定的领导决策数据。 数据仓库阶段:这个阶段,主要是按照一定的数据模型,对整个企业的数据进行采集,整理,并且能够按照各个业务部门的需要,提供跨部门的,完全一致的业务报表数据,能够通过数据仓库生成对对业务具有指导性的数据,同时,为领导决策提供全面的数据支持。 首先,我们先来看下数据库、数据集市、数据仓库以及数据湖的概念。 1、什么是数据库? 数据库(Database)是按照一定格式和数据结构在计算机保存数据的软件,属于物理层。 最早期是广义上的数据库,这个阶段的数据库结构主要以层次或网状的为主,这是数据库的数据和程序间具备非常强的依赖性,应用有一定局限性。 我们现在所说的数据库一般指的是关系型数据库。关系数据库是指采用了关系模型来组织数据的数据库,其以行和列的形式存储数据,具有结构化程度高,独立性强,冗余度低等优点。 关系型数据库主要用于联机事务处理OLTP(On-Line Transaction Processing),主要用于进行基本的、日常的事务处理,例如银行交易等场景。 2、什么是数据集市? 数据集市是一种微型的数据仓库,它通常是有更少的数据,更少的主题区域,以及更少的历史数据,如果数据仓库是企业级的,那数据集市就是部门级的,一般数据集市只能为某个局部范围内的管理人员服务。 3、什么是数据仓库? 数据仓库(Data Warehouse),可简写为DW或DWH。它是为企业所有级别的决策制定过程,提供所有类型数据支持的战略集合。它是单个数据存储,出于分析性报告和决策支持目的而创建。为需要业务智能的企业,提供指导业务流程改进、监视时间、成本、质量以及控制。 数据仓库之父比尔·恩门于1990年提出数据仓库(Data Warehouse),数仓主要是为解决企业的数据集成与分析问题。数据仓库主要功能是将OLTP经年累月所累积的大量数据,通过数据仓库特有的数据储存架构进行OLAP,最终帮助决策者能快速有效地从大量数据中,分析出有价值的信息,提供决策支持。自从数据仓库出现之后,信息产业就开始从以关系型数据库为基础的运营式系统慢慢向决策支持系统发展。 一句话总结:数据仓库存在的意义在于对企业的所有数据进行汇总,为企业各个部门提供统一的, 规范的数据出口。 数据仓库相比数据库,主要有以下两个特点: 数据仓库是面向主题集成的。数据仓库是为了支撑各种业务而建立的,数据来自于分散的操作型数据。因此需要将所需数据从多个异构的数据源中抽取出来,进行加工与集成,按照主题进行重组,最终进入数据仓库。 数据仓库主要用于支撑企业决策分析,所涉及的数据操作主要是数据查询。因此数据仓库通过表结构优化、存储方式优化等方式提高查询速度、降低开销。 数据仓库与数据库的对比 维度 数据仓库 数据库 应用场景 OLAP OLTP 数据来源 多数据源 单数据源 数据标准化 非标准化Schema 高度标准化的静态Schema 数据读取优势 针对读操作进行优化 针对写操作进行优化 4、什么是数据湖? 在现在这个时代,数据对于企业而言,已经是一种重要资产。随着企业的不断发展,数据不断堆积,企业希望把生产经营中的所有相关数据都完整保存下来,进行有效管理与集中治理,挖掘和探索数据价值。而数据湖就应运而生。 数据湖是一个集中存储各类结构化和非结构化数据的大型数据仓库,它可以存储来自多个数据源、多种数据类型的原始数据,数据无需经过结构化处理,就可以进行存取、处理、分析和传输。数据湖能帮助企业快速完成异构数据源的联邦分析、挖掘和探索数据价值。 数据湖的本质,是由“数据存储架构+数据处理工具”组成的解决方案。 数据存储架构:要有足够的扩展性和可靠性,可以存储海量的任意类型的数据,包括结构化、半结构化和非结构化数据。 数据处理工具,则分为两大类: 第一类工具,聚焦如何把数据“搬到”湖里。包括定义数据源、制定数据同步策略、移动数据、编制数据目录等。 第二类工具,关注如何对湖中的数据进行分析、挖掘、利用。数据湖需要具备完善的数据管理能力、多样化的数据分析能力、全面的数据生命周期管理能力、安全的数据获取和数据发布能力。如果没有这些数据治理工具,元数据缺失,湖里的数据质量就没法保障,最终会由数据湖变质为数据沼泽。 数据仓库和数据湖的不同类比于仓库和湖泊:仓库存储着来自特定来源的货物;而湖泊的水来自河流、溪流和其他来源,并且是原始数据。 数据湖与数据仓库的对比 维度 数据湖 数据仓库 应用场景 可以探索性分析所有类型的数据,包括机器学习、数据发现、特征分析、预测等 通过历史的结构化数据进行数据分析 使用成本 起步成本低,后期成本较高 起步成本高,后期成本较低 数据质量 包含大量原始数据,使用前需要清洗和标准化处理 质量高,可作为事实依据 适用对象 数据科学家、数据开发人员为主 业务分析师为主 5、数据仓库特点 1)数据仓库是面向主题的 数据仓库中的数据是按照一定的主题域进行组织的,每一个主题对应一个宏观的分析领域。数据仓库排除对于决策无用的数据,提供特定主题的简明视图。 举个例子: 比如说一个公司会有很多的部门,不同的部门都会去数据仓库拿数据,做自己要做的报表,我们把这一个部门或是某一个业务,也就是独立从我们数据仓库中获取数据的单元,把它称作为主题,也可以理解为一个主题就是一个部门。这个部门作为一个主题会从数据仓库总去获取数据,用于完成需要的报表。 2)数据仓库是集成的 数据仓库中的数据不是一开始就是在里面的,而是从各个分散的数据库中抽取出来的。但是有一个问题,就是这些来自不同数据库的数据会有重复和不一样的地方,如字段的同名异议、异名同义、单位不统一,字长不统一等。所以在集成的过程中,还要对数据进行清洗、规划、去敏等操作。 一句话就是,数据仓库是对企业内不同业务部门数据完整集合,而且还是处理过的数据。 3)数据仓库的数据是稳定的 数据仓库中的数据主要是为了给企业做决策时分析使用,涉及的主要是对数据的查询,一般情况下不会对数据进行修改,如果数据仓库中的历史数据超过存储期限,则会直接删除。 因为数据仓库涉及的操作主要是查询,所以它的系统要比数据库简单很多,但是数据仓库涉及到查询的数据量一般都很大,所以在数据查询就有更高的要求。 一句话记忆,数仓里不存在数据的更新和删除(不是指数据到期的删除)操作。 4)数据仓库中的数据是随时间变化而变化的 数据仓库中的数据不可更新是针对应用来说的,也就是说,数据仓库的用户进行分析处理是不进行数据更新操作的。但并不是说,在从数据集成输入数据仓库开始到最后被删除的整个生存周期中,所有的数据仓库数据都是永远不变的。 数据仓库的数据是随着时间变化而变化的主要表现如下: 数据仓库随着时间变化不断增加新的数据内容。数据仓库系统必须不断捕捉OLTP数据库中变化的数据,追加到数据仓库当中去,也就是要不断的生成OLTP数据库的快照,经统一集成增加到数据仓库中去;但对于确实不在变化的数据库快照,如果捕捉到新的变化数据,则只生成一个新的数据库快照增加进去,而不会对原有的数据库快照进行修改。 数据库随着时间变化不断删去旧的数据内容 。数据仓库内的数据也有存储期限,一旦过了这一期限,过期数据就要被删除。 数据仓库中包含有大量的综合数据,这些综合数据中很多跟时间有关,如数据经常按照时间段进行综合,或隔一定的时间片进行抽样等等。这些数据要随着时间的变化不断地进行从新综合。因此数据仓库的数据特征都包含时间项,以标明数据的历史时期。 一句话理解,数仓里会完整的记录某个对象在一段时期内的变化情况。
点赞 17
评论 1
全部评论
推荐
最新
楼层
暂无评论,快来抢首评~
相关推荐
11-25 09:47
已编辑
浙江海洋大学 前端工程师
20人前端小厂面经
上来先自我介绍,接着就开始问了,不过没开摄像头,感觉有点kpi1.h5标签有了解吗2.CSS盒模型3.了解过flex布局吗,flex:1代表什么4.CSS的position有了解吗,比如absolute之类的5.==和===的区别6.js里面怎么判断变量是数组7.怎么取出数字数组里面的最大值8.了解事件冒泡吗9.vue2中的data为什么是函数10.v-for为什么要绑定key11.组件的传参12.计算属性和方法的区别13.生命周期了解吗14.开发过微信小程序吗15.ref了解吗16.vue中的常见指令17.v-model双向数据绑定了解吗反问:1.具体业务是啥 --- 主要是物联网开发之类的...
查看20道真题和解析
点赞
评论
收藏
分享
11-21 10:14
联想_后端开发部_语音算法工程师(准入职员工)
海康威视内推,海康威视内推码
岗位:武汉 嵌入式开发timeline:8.30 测评,10.9 一面,10.11 二面一面技术:自我介绍讲下实习经历平常怎么debug项目中有没有遇到什么问题,怎么解决的介绍一下学校经历了解数据结构吗?基本的数据结构?查找搜索效率?有什么方法可以提高效率?具体围绕数据结构问了很多RTOS,多任务操作反问:做存储固件的,具体的进来再分二面HR:北京线下,地点在北京研发中心,具体内容就是唠家常,一些HR面的基本问题销售工程师工作体验,总结累但成长很多。1.大家最先关注的就是HIK的工作压力,只能说体面厂没有辜负盛名!名不虚传!我来这边是销售岗,基本上每天都要差不多11点下班。因为销售不仅需要对接...
点赞
评论
收藏
分享
10-16 16:32
北京邮电大学 Java
这素什么情况
二面完进录用评估了?
Java面试先知:
我也是和你一样的情况,hr 说等开奖就行了
点赞
评论
收藏
分享
11-03 17:57
门头沟学院 前端工程师
秋招感动瞬间 × 2
HR大哥太顶了,给我感动坏了,祝HR大哥工作顺利,生活顺心。
安静的鲸鱼offer...:
神仙级别hr,可遇不可求,甚至他可能也是突然有感而发。只能说遇上是件幸事。
秋招开始捡漏了吗
点赞
评论
收藏
分享
11-21 10:28
睿琪软件_产品经理(准入职员工)
滴滴内推,滴滴内推码
滴滴后端一二面面经一面40min纯技术面,面试官很友好,时不时会对你微笑,然后点头表示肯定,答对了还会说说得对。挑选一个你最想介绍的项目介绍一下,没有深挖。八股盛宴:C++、C、数据结构、数据库。总结就是不是简单的问你什么是虚函数,然后你说个虚指针,虚函数表就完事了。还会问你空指针可以调用类的方法吗?调用虚函数或者非静态成员变量的非虚函数为什么会崩溃?在什么阶段?大概就是这个意思,所以需要对每个方向的知识点有很深的理解,或者说实际开发中切实的应用过才能答得出来。二面25min个人感觉是目前为止碰到的最让人不解的面试官,全程皱着眉头,问的问题我没理解清楚也不会过多解释,直接默认我不会,然后说那我...
点赞
评论
收藏
分享
评论
点赞成功,聊一聊 >
点赞
收藏
分享
评论
提到的真题
返回内容
全站热榜
更多
1
...
个人秋招总结,两段转正失败,给27届+的建议
1.7W
2
...
逆流河上万仙退
5667
3
...
【现金奖励】26秋招薪资爆料征集,瓜分现金红包!
5072
4
...
最后一年应该干些什么呢,躺平吗
4478
5
...
拿了小红书的sp,还用等别家吗?大概率不会有更高的了吧
3819
6
...
腾讯IEG后端日常实习一面
3417
7
...
关于秋招躲offer这件事,最终。。。
3387
8
...
又被偷袭
2929
9
...
后端项目大统计,看看你上榜没有
2929
10
...
小红书vs字节vs京东 offer选择
2763
创作者周榜
更多
正在热议
更多
#
你的秋招白月光和意难平公司
#
15424次浏览
151人参与
#
职场上哪些事情令人讨厌
#
27063次浏览
111人参与
#
百度秋招
#
57070次浏览
394人参与
#
你想跟着什么样领导?
#
10034次浏览
131人参与
#
机械人还在等华为开奖吗?
#
280394次浏览
1438人参与
#
从夯到拉,评价编程语言
#
8754次浏览
75人参与
#
什么样的背景能拿SSP?
#
118794次浏览
417人参与
#
一人一个landing小技巧
#
133751次浏览
1479人参与
#
牛客租房专区
#
127660次浏览
1358人参与
#
找实习是选平台还是选业务?
#
13679次浏览
179人参与
#
每个月花钱最多的地方是?
#
7507次浏览
105人参与
#
大疆的机械笔试比去年难吗
#
93851次浏览
764人参与
#
腾讯工作体验
#
530570次浏览
3593人参与
#
你见过哪些工贼行为
#
47044次浏览
175人参与
#
xxx岗位的一天
#
13417次浏览
124人参与
#
十一月总结
#
19162次浏览
181人参与
#
深信服求职进展汇总
#
237024次浏览
1797人参与
#
AI“智障”时刻
#
8019次浏览
76人参与
#
实习的内耗时刻
#
203517次浏览
1497人参与
#
分享一个让你热爱工作的瞬间
#
48458次浏览
416人参与
#
你面试时吹过最大的牛
#
24761次浏览
130人参与
牛客网
牛客网在线编程
牛客网题解
牛客企业服务