算法面经3：nlp和llm，商汤科技

1️⃣一面时间：9.12  时长：1hcode：统计岛屿数量、最大岛屿面积，DFS方法解了然后介绍实习项目，面试官非常耐心地听，没有打断八股1.bert和gpt的区别？（从模型架构、训练方式、使用场景方面回答的）2.训练/微调一个LLM的流程？3.实习时用的 megatron 框架吗，对分布式训练框架了解多少？（回答了deepspeed和megatron区别，以及几种并行方式，以及deepspeed的三种zero）4.了解强化学习吗，跟SFT有什么区别？5.反问：业务，对岗位的期望💣评价：有点紧张，算法题有一个小失误没注意到2️⃣二面时间：9.14  时长：1h八股1.写一下 attention 公式（代码实现了下）2.训练时为什么要mask，推理时也需要吗？两处有什么区别？推理时的sequence length和训练时一样吗3.transformer和传统seq2seq模型有什么区别？4.计算attention时为什么要除以d_k，这个d_k的含义是？5.attention计算时还有哪些scale处理？6.attention中softmax函数作用、公式、为什么有减去最大值的处理？换个函数还能这样处理吗？7.解释数值上溢、下溢问题8.讲一下prompt书写的经验，如何判断prompt是否达标，如何改进prompt9.讲一下SFT，会对哪部分计算loss？为什么？10.讲一下deepspeed11.训练用一个7b模型要占用多少显存？不同zero阶段能够节省多少显存？12.训练模型时用了几张卡，有遇到什么异常中断问题吗？反问： 在乎候选人什么能力？对面试表现有哪些改进意见？💣评价： 基础不够扎实，网上有的知识都能回答上来，在同龄人里算比较优秀，欠缺一些多机多卡实践经验。  

一共两个面试官，一个是技术负责人，一个是hr技术负责人：什么时候学的java为什么专业是网络空间安全却选择做开发DROP TABLE 和 DELETE FROM的区别为什么要做这个项目常用的设计模式有哪些spring里面有什么设计模式Redis的哨兵机制hr:用三个词描述别人对你的评价，并举例说明现在求职进展怎么样有没有考虑去互联网，为什么来金融从哪里了解到的泰隆银行平常遇到过的挫折是什么，怎么应对的未来就业会考虑哪些因素平时有什么兴趣爱好说是一周内出结果，许愿OC

📍面试公司：深圳即构科技💻面试岗位：前端实习❓面试问题：1.拷打LLM大模型项目：（1）实现的过程中遇到的跳转，以及怎么解决  答：简单讲了markdown渲染和流式输出的实现（说的很简单）        遇到的问题：多端适配（只讲了媒体查询实现）2.拷打智能家居项目：（1）技术选型，架构设计  答：简单讲了uniapp的优点，websocket的优点3.八股（1）比较vue2和vue3，vue3好在哪里答：响应式原理vue3可读性更好，API（这块答的不好）（2）vue双向绑定原理答：只用过，原理大概prop监听？（答的稀烂）（3）css盒模型正常回答，（他说我笔试做错了这道题，我忘了怎么这个题都能错）（4）事件循环机制答：先同步，再微任务，再宏任务（让我说了哪些微任务，哪些宏任务）（5）typescript里interface和type都可以用来定义对象吗答：不太懂typescript（6）CI CD流水线的实现答：简单说了用gitlab实现（7）虚拟滚动的原理（8）前端的其他性能优化答：防抖、节流、图片懒加载4.开放问题（1）前端的未来发展，AI的影响答：前端与人交互性强，AI代替不了，但可以用AI帮助开发（大概这种）（2）在项目开发里充当leader，临近deadline，发现了依赖第三方库的bug，怎么解决答：随便乱说的5.反问（1）实习生具体做什么（2）我哪些方面需要加强  表达能力可以，但是让我主动说自己的亮点，讲讲问题怎么解决的（3）面试结果什么时候出🙌面试感想：感觉答的还凑合，但让我说亮点 ，事实上没什么亮点hhhh

1.自我介绍（察觉到面试官态度随意，语气有点张扬，初见端倪）2.介绍业务（还算中规中矩）3.挑一个最熟悉的业务介绍一下4.接口自动化除了报文检测还有什么？（项目代码中没见过除了response的检测，就说了不知道）追问：是不是应该还要测一下数据库？回答：（想了一下）确实可以在验完response之后验一下数据库，看看是不是数值能对得上追问：那为什么不加数据库验证呢？（项目代码里面确实没有啊？）回答：这个当时不是我主要负责的项目，但是我认为确实可以加上数据库验证5.反问业务+反馈时间（看上去也没有什么介绍欲）总结：难得遇见一个态度十分“拽”的面试官，给到了我一定得压力，而且只问项目显得有点奇怪，...