大数据开发学习路线指南(本人亲测)

    以下是本人在大数据方向的技术栈学习路线,另外还有诸如HBase、Kylin、实时数仓项目、数据湖项目、湖仓一体等。下面列出的是基本所必须掌握的内容。对于项目方面,建议先离线后实时开发的学习,再之后便是数据湖等项目。

    另外推荐可以经常翻看《大数据之路》这本书,里面涉及到的理论和企业中的白皮书基本一样。平常也可以多翻看各个公司公开分享的技术文章,源码等。类似阿里的学习文档、美团的技术文档等,在没有实际生产经验时可以了解各个场景下技术选型、底层调优、内存调整、资源配置、数据治理等各个重要环节和内容。

1、Java:JAVA SE、JVM、JUC

(刚开始只需要看Java基础就可以了,不需要学习一些web框架,因为不管是源码二次开发,UDF开发,还是数仓都不需要用到这些框架(除了平台开发之外),像Spring这些web框架,在学习完所有的大数据框架之后,找工作之前如果还有时间,可以去学一学这些框架【加分项】)

2、Linux+Shell

3、Git、Maven(了解会用,有印象,如果需要使用能快速学习上手使用即可)

4、Hadoop(HDFS,MapReduce,Yarn)

5、Zookeeper

6、Hadoop高可用(了解即可)

7、Hive(重点,需要熟练了解原理,并且会写HQL,以及一些优化,是基础)

8、Spark(大部分公司都是写SparkSQL,并且调优,需要明白底层原理,内存结构,SparkUI等)

9、Flume

10、Kafka(时间紧张的话,可以先放一放,和Flink一起学,kafka+Flink+Spark是处理实时数据的)

11、Maxwell、DataX、Dolphinscheduler(项目中数据同步、模拟日常调度工作)

12、sgg电商数仓x.0(跟着做完这个项目,就知道什么是数仓,什么是维度模型,什么是指标等等,以及生产中一些内容)

13、Flink

14、MPP架构(类似Doris、Clickhouse)

15、实时数仓项目

16、数据治理

17、数据湖、湖仓一体

18、刷算法、刷sql、刷场景题
#大数据开发##面试##数据人的面试交流地##秋招#
全部评论
佬,怎么准备面试呢,主要是面试题求教您怎么准备的?
1 回复 分享
发布于 2025-11-09 13:53 贵州
大佬,有哪些学习资料和课程推荐么,还有该学习哪些新项目
点赞 回复 分享
发布于 01-08 00:57 北京
佬,想请问下项目的话有哪些推荐的吗,找不到合适的项目,都在说sgg的项目烂大街了,但我又不知道去哪里找
点赞 回复 分享
发布于 2025-11-26 20:42 重庆
大佬,秋招有着落了嘛
点赞 回复 分享
发布于 2025-11-07 11:52 广东
您好佬,有跟什么课吗,现在开始学到春招可以学完吗
点赞 回复 分享
发布于 2025-10-22 14:48 广东

相关推荐

从25年2月到现在,接触大数据开发已经有一年了,从MySQL,orcal,到flink首先就是写SQL,毕竟大家大部分都是SQLboy,SQLgirl,SQL是基础,可以在力扣牛客上多刷题。手撕常考!数开作为技术岗中最贴近业务的岗位,理解业务过程并进行数仓建模是最重要的一部分建模这块主要涉及,指标维度建设,数仓分层,讲解项目结合业务来讲.技术栈主要分离线和实时,实时门槛工资相对高一点,但应用场景比离线少很多,离线是数仓的基础。大数据技术栈主要是Hadoop生态圈,分布式的一些东西,也就是八股基础的得会,得理解整个架构运作流程,光背是记不住的Hadoop,hive,spark离线最核心的技术栈,也是八股最常考的,实时主要是spark,flink其次是一些数据处理框架kafka,etl转换工具知道一些,怎么用的大数据的框架搭起来比较麻烦,时间赶的不建议亲自搭环境,理解项目业务过程,这个项目做了什么,整个数据链路能讲清楚即可。技术栈的一些相关学习渠道,博主是在B站上找视频学的,也够用,时间赶学重点就行,结合八股来看。最后是算法手撕,本人算法很烂,除了大厂基本不考这个。出的题一般比较简单,会hot100就行个人经验来看,简历上有了实时项目,很少问Hadoop八股,更偏重spark和flink。项目还是以离线为主。实习发现实时数据只占很少一部分,离线是底盘有了实习经历就不咋问项目了
为了入行xx岗,我学了_...
点赞 评论 收藏
分享
不愿透露姓名的神秘牛友
01-21 16:42
爱奇艺 前端开发其它 250 其他
哞客37422655...:不知道 感觉没咋听说过正式校招有牛油发
点赞 评论 收藏
分享
评论
8
34
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务