大数据开发

📍公司：Fastlanle🖥️工作环境：每年都有公司年度旅游、月度下午茶、节日京东卡🤔团队氛围：数据团队非常nice，token无限用，agent开发爽爆💰薪资福利：13-19k🙇整体评价：总体上让新人发挥的空间很大，我是公司25届的数据开发校招生，无论是培养和资源都不输入中大厂。重点是WLB，性价比拉满，早十晚7。内推码:K932D5S投递链接:https://fastbase.jobs.feishu.cn/s/8GEgKtfe9k0有啥不懂，可以私聊我！！！

以下是本人在大数据方向的技术栈学习路线，另外还有诸如HBase、Kylin、实时数仓项目、数据湖项目、湖仓一体等。下面列出的是基本所必须掌握的内容。对于项目方面，建议先离线后实时开发的学习，再之后便是数据湖等项目。另外推荐可以经常翻看《大数据之路》这本书，里面涉及到的理论和企业中的白皮书基本一样。平常也可以多翻看各个公司公开分享的技术文章，源码等。类似阿里的学习文档、美团的技术文档等，在没有实际生产经验时可以了解各个场景下技术选型、底层调优、内存调整、资源配置、数据治理等各个重要环节和内容。1、Java：JAVA SE、JVM、JUC（刚开始只需要看Java基础就可以了，不需要学习一些web框架，因为不管是源码二次开发，UDF开发，还是数仓都不需要用到这些框架（除了平台开发之外），像Spring这些web框架，在学习完所有的大数据框架之后，找工作之前如果还有时间，可以去学一学这些框架【加分项】）2、Linux+Shell3、Git、Maven（了解会用，有印象，如果需要使用能快速学习上手使用即可）4、Hadoop（HDFS，MapReduce，Yarn）5、Zookeeper6、Hadoop高可用（了解即可）7、Hive（重点，需要熟练了解原理，并且会写HQL，以及一些优化，是基础）8、Spark（大部分公司都是写SparkSQL，并且调优，需要明白底层原理，内存结构，SparkUI等）9、Flume10、Kafka（时间紧张的话，可以先放一放，和Flink一起学，kafka+Flink+Spark是处理实时数据的）11、Maxwell、DataX、Dolphinscheduler（项目中数据同步、模拟日常调度工作）12、sgg电商数仓x.0（跟着做完这个项目，就知道什么是数仓，什么是维度模型，什么是指标等等，以及生产中一些内容）13、Flink14、MPP架构（类似Doris、Clickhouse）15、实时数仓项目16、数据治理17、数据湖、湖仓一体18、刷算法、刷sql、刷场景题

简历求拷打！！！    

1.自我介绍2.熟悉flink还是spark答：flink3.介绍下flink架构吧答：这里越深越好，我就讲到了flink的jobmanager(dispathcer，jobmaster)和taskmanager4.flink有哪些算子?答：map,flatmap,filter,window,union等,RichFunction提供生命周期open close,上下文环境。5.flink你知道有哪些窗口吗？计数窗口能介绍下吗？答：时间窗口有滚动滑动会话，计数窗口有滚动滑动。6.你知道窗口什么时候触发吗？答：讲了一下窗口触发器trigger7.你能介绍下flink有几种窗口触发器吗？底层怎么实现的。答：讲了一下事件时间触发器和处理时间触发器的原理。8.假如flink窗口突然不触发了，你怎么排查。答：这里我答了一下排查上游其中一个流是否断流，如果其中一条流断流可以设置withIdleness空闲时间，让窗口的最小水位线机制去掉那个断流的依赖，靠另外的流触发计算。这里面试官提了一个场景，如果小米商城半夜就是没人买东西或者数据量很小导致水位线不能及时更新，（就是每条流都没数据）那你该怎么触发呢？利用窗口触发器ProcessingTimeoutTrigger9.口述一道sparksql题10.sparksql优化答:(1)sort by 代替 order by，需要结合distribute by使用。(2)count(distinct)优化(3)列裁剪(4)谓词下推(5)优化MAPJOIN阈值。(6)定期合并小文件，防止maptask数量过多(7)多用explain看执行计划,避免笛卡尔积等意外情况11.执行计划怎么看每个stage是根据shuffle切分，执行计划会写上具体的操作符和数据量和JOIN规则。12.distrubute by 会发生shuffle吗？根据什么字段distribute by? 这个和cluster by的区别是什么？13.反问：(1)小米数仓具体是做什么数据？(2)为什么岗位介绍上写了机器学习？面试官说这个有专门团队去做，跟数仓关系不大牛客字数限制，答案写的有点简略小米面试官的技术感觉很强，态度好，体验很不错，希望以后有机会能进吧。

时长40分钟左右，总体问的东西不难（感觉是简历上没东西可问的）。今天面两场有点晕，这个面经只能是记得多少写多少了。1. 自我介绍2. 你的项目是学习的时候做的吗3. 你提到数据仓库分层，分别讲讲每层的作用4. 你提到DWS层存储一些指标，这个层可以删掉吗5. 讲讲HDFS（说了组件构成和读写流程）6. secondary nn起到什么作用（这里是我讲hdfs的时候，脑子抽抽忘说了，面试官点了一下）7. 讲一下mapreduce的流程8. 你提到shuffle过程中的排序，那在mr的shuffle中都有哪些排序9. 数据倾斜在什么情况下发生，如何解决10. java面向对象特性11. hive中的分区和分桶有什么区别12. hive的内部表和外部表的区别13. 说说udf udaf udtf14. 研究生阶段印象比较深的课程15. 撕两道sql（第一个考察left join、right join、inner join），第二个窗口函数16. 面试官顺势问了row_number() rank() dense_rank()的区别17. 反问中间问java，面试官应该是看出来我没怎么学java的八股内容，就没怎么追问java内容了。写sql的时候，因为不能编译运行，脑子想了半天，感觉写的有点慢了，还是得多练。

面经 自我介绍为啥不继续实习了实习项目主要内容是什么？会java吗？没系统学习过，会python说下数仓建模的分层（没准备）说下维度模型星型模型和雪花模型的区别什么情况下使用星型/雪花模型更好（没想过，胡乱回答了）HDFS读流程？原则是什么？(就近原则没答上来)了解spark吗？说一下宽依赖和窄依赖？（不太懂）了解flink吗？不懂hiveSQL怎么优化？（搞成说明HQL的提交流程了）机器学习的一些基本算法？（没准备）英语口语可以吗？请用英文进行一段自我介绍（没准备好，太紧张表现的有点差）反问：大数据开发是以java为主吗？java只是一种语言，其他语言也是可以的基于前面的面试表现，如果想从事大数据开发，有什么需要加强的？加强大数据组件的学习实习生有加班费吗？周末有，平时不会有感觉太多要准备的了，希望下次能回答的上来。

25届学长，25秋招拿下字节、腾讯等6家大厂大数据开发offer，自用大数据八股，有需要可联系我

bg双9，非科班，3段中大厂实习最近秋招陆续开了，投了一圈一个面都没有。不知道是不是简历写太烂！求大佬们锐评

美团高频数开面试题分享|2024届校园招聘即将开始：https://www.nowcoder.com/discuss/515311167196160000?sourceSSR=users字节最全数开面试题|有同学拿了字节提前批offer：https://www.nowcoder.com/discuss/509134018885992448?sourceSSR=users快手大数据开发高频面试题及答案【海量hc】：https://www.nowcoder.com/discuss/527892445468577792?sourceSSR=users微众大数据开发高频面试题及答案【附JD分析】：ht...

【京东零售-履约研发组 | 招新啦！🚀】🌟 寻找未来的技术之星！ 🌟京东零售-履约研发组2026届校招/实习生火热招募中！我们正在寻找对技术充满热情的Java后端开发工程师和大数据开发工程师，与我们共同打造京东亿级订单履约系统！📌 岗位方向：✅ Java后端开发工程师 - 深入零售核心系统✅ 大数据开发工程师 - 玩转海量数据价值🎯 在这里你能：▫️ 参与万亿级电商履约系统实战▫️ 获得技术大牛一对一导师指导▫️ 接触高并发、分布式、大数据前沿技术▫️ 享受极具竞争力的薪酬福利待遇❤️ 我们希望你：热爱技术，具备扎实的编程基础对分布式系统、大数据技术有浓厚兴趣具备良好的学习能力和团队协作精神📩 简历投递：欢迎私聊我咨询详情！校招 Java开发 互联网大厂 #技术人的成长之路

前言近一年，大数据面试的风向正在发生明显变化。过去，面试官更关注：数仓分层怎么设计？指标体系如何构建？Spark 调优怎么做的？而现在，越来越多的面试开始追问：你有没有做过 AI 相关项目？LLM 在数据场景中如何落地？RAG 是怎么设计的？AI 不再是「加分项」，而是逐渐成为「基础能力」。但问题是 很多人所谓的 AI 项目，只停留在：调个 API写个简单问答 Demo这在企业级场景里，是远远不够的。真正有含金量的 AI 项目，必须要解决真实业务问题，并具备：检索增强（RAG）落地能力LLM 语义理解与 Prompt 设计能力工程化架构能力（可扩展、可复用、可维护）而在我们当前的数据仓库体系中...

接下来这几道题，算是所有面经里面出现频率最高的（仅限牛客大数据开发面经分享），有的公司甚至一二面都常有重复的题（比如美团~）。   公众号：旧时光大数据   一、Hadoop部分     一、HDFS文件写入和读取过程   可灵活回答：   1）HDFS读写原理（流程）   2）HDFS上传下载流程   3）讲讲（介绍下）HDFS   4）HDFS存储机制   问过的一些公司：   阿里×3，阿里社招，腾讯x2，字节x2，百度，拼多多x2，浩鲸云，小米，流利说，顺丰，网易云音乐×2，有赞×2，祖龙娱乐，360×2，商汤科技，招银网络，深信服，多益，大华，快手，电信云计算，转转，美团x4，sho...

9.27二面总计45分钟左右1.自我介绍2.实习经历介绍3.项目介绍4.逐一拷打简历上的各个方面，首先是实习，实习内容，实习产出，实习收获，问到实习期间做的工作时会深入问项目细节（数仓分层情况，项目数据情况等）5.实习拷打的差不多了问了个专业名词：数据血缘，没听说过，随便胡诌了一点ods层和dw层关系溯源的情况，面试官说意思差不多，然后给我讲了一下这个名词6.拷打项目，从项目数据源到数据中间层设计，项目框架，数仓设计，数仓模型分类，redis缓存的一些八股7.项目拷打完来两个手撕，两道SQL题，一道Java题8.sql比较简单，常规题9.Java题是实现一个栈，实现出栈，入栈，查看栈顶元素三个方法（有点汗流浃背）10.反问部门业务，工作业务对接情况，出差情况等面试完还提了一嘴什么时候会出结果，回答：流程快的话应该是国庆节后几天10.10三面三面共计三十分钟左右，部门大leader面1.自我介绍2.实习拷打3.项目拷打4.项目细节拷打5.介绍本科和硕士的经历，选了感兴趣的问了一下6.遇到过的困难，如何解决的7.反问 什么时候出结果，回答会让hr尽快联系我，反手就给挂了还是倒在了三面，什么时候才能有offer呀