大数据开发

1.自我介绍2.熟悉flink还是spark答：flink3.介绍下flink架构吧答：这里越深越好，我就讲到了flink的jobmanager(dispathcer，jobmaster)和taskmanager4.flink有哪些算子?答：map,flatmap,filter,window,union等,RichFunction提供生命周期open close,上下文环境。5.flink你知道有哪些窗口吗？计数窗口能介绍下吗？答：时间窗口有滚动滑动会话，计数窗口有滚动滑动。6.你知道窗口什么时候触发吗？答：讲了一下窗口触发器trigger7.你能介绍下flink有几种窗口触发器吗？底层怎么实现的。答：讲了一下事件时间触发器和处理时间触发器的原理。8.假如flink窗口突然不触发了，你怎么排查。答：这里我答了一下排查上游其中一个流是否断流，如果其中一条流断流可以设置withIdleness空闲时间，让窗口的最小水位线机制去掉那个断流的依赖，靠另外的流触发计算。这里面试官提了一个场景，如果小米商城半夜就是没人买东西或者数据量很小导致水位线不能及时更新，（就是每条流都没数据）那你该怎么触发呢？利用窗口触发器ProcessingTimeoutTrigger9.口述一道sparksql题10.sparksql优化答:(1)sort by 代替 order by，需要结合distribute by使用。(2)count(distinct)优化(3)列裁剪(4)谓词下推(5)优化MAPJOIN阈值。(6)定期合并小文件，防止maptask数量过多(7)多用explain看执行计划,避免笛卡尔积等意外情况11.执行计划怎么看每个stage是根据shuffle切分，执行计划会写上具体的操作符和数据量和JOIN规则。12.distrubute by 会发生shuffle吗？根据什么字段distribute by? 这个和cluster by的区别是什么？13.反问：(1)小米数仓具体是做什么数据？(2)为什么岗位介绍上写了机器学习？面试官说这个有专门团队去做，跟数仓关系不大牛客字数限制，答案写的有点简略小米面试官的技术感觉很强，态度好，体验很不错，希望以后有机会能进吧。

上海美团-数据开发岗位，组内还有1个项目实习hc(非校招转正，但组里有项目实习转校招实习生的)，对代码要求比后端低，写写sql就行了，面试八股也比后端开发简单，也不用手撕代码，写写sql而已，钱拿的还和其他开发一样多。可以私聊我进行简历投递，每天都会看私信，目标下周招到。要求：聪明度>有过实习经历=学历

bg双9，非科班，3段中大厂实习最近秋招陆续开了，投了一圈一个面都没有。不知道是不是简历写太烂！求大佬们锐评

接下来这几道题，算是所有面经里面出现频率最高的（仅限牛客大数据开发面经分享），有的公司甚至一二面都常有重复的题（比如美团~）。   公众号：旧时光大数据   一、Hadoop部分     一、HDFS文件写入和读取过程   可灵活回答：   1）HDFS读写原理（流程）   2）HDFS上传下载流程   3）讲讲（介绍下）HDFS   4）HDFS存储机制   问过的一些公司：   阿里×3，阿里社招，腾讯x2，字节x2，百度，拼多多x2，浩鲸云，小米，流利说，顺丰，网易云音乐×2，有赞×2，祖龙娱乐，360×2，商汤科技，招银网络，深信服，多益，大华，快手，电信云计算，转转，美团x4，sho...

请问一下牛油门，大数据开发的实习对秋招找后端有帮助吗？

美团高频数开面试题分享|2024届校园招聘即将开始：https://www.nowcoder.com/discuss/515311167196160000?sourceSSR=users字节最全数开面试题|有同学拿了字节提前批offer：https://www.nowcoder.com/discuss/509134018885992448?sourceSSR=users快手大数据开发高频面试题及答案【海量hc】：https://www.nowcoder.com/discuss/527892445468577792?sourceSSR=users微众大数据开发高频面试题及答案【附JD分析】：ht...

9.27二面总计45分钟左右1.自我介绍2.实习经历介绍3.项目介绍4.逐一拷打简历上的各个方面，首先是实习，实习内容，实习产出，实习收获，问到实习期间做的工作时会深入问项目细节（数仓分层情况，项目数据情况等）5.实习拷打的差不多了问了个专业名词：数据血缘，没听说过，随便胡诌了一点ods层和dw层关系溯源的情况，面试官说意思差不多，然后给我讲了一下这个名词6.拷打项目，从项目数据源到数据中间层设计，项目框架，数仓设计，数仓模型分类，redis缓存的一些八股7.项目拷打完来两个手撕，两道SQL题，一道Java题8.sql比较简单，常规题9.Java题是实现一个栈，实现出栈，入栈，查看栈顶元素三个方法（有点汗流浃背）10.反问部门业务，工作业务对接情况，出差情况等面试完还提了一嘴什么时候会出结果，回答：流程快的话应该是国庆节后几天10.10三面三面共计三十分钟左右，部门大leader面1.自我介绍2.实习拷打3.项目拷打4.项目细节拷打5.介绍本科和硕士的经历，选了感兴趣的问了一下6.遇到过的困难，如何解决的7.反问 什么时候出结果，回答会让hr尽快联系我，反手就给挂了还是倒在了三面，什么时候才能有offer呀

面试时间：1h 10min自我介绍实习工作的一些问题项目相关的一些问题Java基本数据类型？String为什么不是基本数据类型？能不能继承？如果需要频繁地拼接字符串用什么？为什么？StringBuffer、StringBuilder 的区别？Java的集合类了解吗？都有那些？它们的继承关系是怎么的？讲讲HashMap？HashMap多线程下怎么办？多线程的HashMap它的原理？并发编程的问题，听的有点懵，说不会，他又换了一个，还是不会，尴尬JVM内存结构？类加载机制？线程池了解吗？介绍一下设计模型用过那些？在哪里用过？线程和进程的区别？我看你学过python，python里面的协程和进程线程有什么区别吗？MapReduce原理？Spark为什么比MaReduce快？现在还有用MapReduce的吗？比起Spark，MapReduce的应用场景？Spark任务执行的流程？宽窄依赖？HDFS是如何保证数据可靠的？机房断网，造成脑裂怎么办？Flume构成？你在项目里是怎么用的？Kafka的构成？多个partition，怎么能保证全局有序？回答可以设置一个partition，不知道其他方法，反问面试官。他说这是别人问他的，他也不知道，问问看我能不能知道....数据库和数据仓库区别？数仓为什么要分层？星型模型和雪花模型区别？维度表和事实表，介绍一下？SQL：给了一张用户登陆表，求每个日期用户的活跃数、7日留存用户、7日活跃留存率好像最后时间不够了，我还没写完，就让我说了一下思路反问：部门业务是什么实习生都做什么工作对实习生有什么要求总结：- 问了很多项目相关的问题，很细，我开始以为一面只会问八股，没怎么准备，猝不及防- 面试官说他不是这个部门的，似乎是后端开发的，问了不少Java 的八股，Java集合的内容很久没复习，忘得差不多了；并发编程是都没研究过- 第一次面试，有些紧张，NameNode和DateNode、线程和进程 这些嘴瓢都说乱了，面试官人挺好的，还在安慰我别紧张

tql ！程序员都去给我装！！配置文件不好复制，有需要自己去这个原文里复制～原文🔗：https://mp.weixin.qq.com/s/8d6g5UNuH8WXyvoHo1yVoA

附加信息：211本+985硕（非计算机），笔试4出头的分数，面了90分钟，面试官人超好，奈何本人过菜1、部门介绍2、自我介绍3、项目介绍，在项目中承担什么角色，如何完成工作大数据相关：4、对大数据开发的理解5、知道什么常用的大数据开发组件6、谈谈MapReduce的原理7、谈谈shuffle的实现方法8、对spark有什么理解？为什么Spark的运行速度快MySQL相关：9、对索引的理解10、索引的数据结构是什么？有什么好处？11、数据库设计三范式12、常用的数据引擎有什么？InnDB有哪些优势？13、sql题：计算排名14、sql题：用户净增长15、sql题：用户留存率16、sql题：表格转置17、反问

一面： 自我介绍hdfs架构，读写流程mr的shuffle，mr和spark的区别sqoop和flume的应用场景项目数仓分层，各层干了什么维度建模理论了解调优吗数据倾斜两道sql，连续登录和好友数量反问二面：自我介绍拷打项目建模理论sql，分组topk，行转列窗口函数介绍排序方式了解哪些，order by有几个reduce文件存储格式反问感恩脉脉，我要为脉脉当牛做马

    2023年4月，大数据开发面试笔记V3.0发布，过去已经两个月，V4.0终于来了，这次主要新增了企业级调优手法以及数据湖基础等内容。如今面试越来越难，常常会被问到大数据的前沿知识比如数据湖，以及企业级调优手段有哪些等，于是我结合自己在大厂的工作经历进行了补充，最终汇聚成一份全面的大数据开发面试笔记。    此笔记包含大数据开发、Java、计算机基础、数仓理论、常考SQL、大数据开发场景题、大厂面经合集、大厂SQL真题、企业级调优手法、数据湖基础等十大模块，并且所有内容会持续更新。第一部分 大数据开发HDFS...

作为一个数据工作者，肯定不少被问窗口函数的问题，比如用过什么窗口函数，或者出个题，一般都是需要用到窗口函数才能完成。所以这一篇，专门讲窗口函数，不是做数据开发的也可以看看，当作学习也好，指不定哪天要实现这种逻辑。 什么是窗口函数 相信很多人都比较熟悉 SQL 聚合函数的语法，比如 count(), sum(), max()等， 窗口函数类似聚合函数，不同的是窗口函数不改变原有的行。 窗口函数是数据分析和数据开发必备的技能。 基本语法： <窗口函数> over (partition by <用于分组的列名> order by <用于排序的列名>) 可能这样的解...