虾皮新加坡大数据开发一二面面经

1.详细说一下dns解析它是怎么解析的，过程咋样2.Transformer你给我讲讲它底层原理，讲一下它为啥能替代RNN，我们知道Transformer架构已经很成熟了，但你觉得它的Self-Attention机制在多模态对齐上会不会存在瓶颈？有没有实际场景里注意力权重完全偏掉的情况3.说下LoRA的原理吧，LoRA是不是只能在Linear层插？你有没有了解过为什么不能插在LayerNorm之后？这会对训练稳定性造成什么影响4.你刚才提到用过QLoRA，那你能具体说说QLoRA是怎么降低资源成本的吗？常见的量化方式有哪些，QLoRA为什么选的是NF4和FP16这组组合，而不是别的组合？你能说说NF4 的分布拟合逻辑吗5.我们做了一些multi-query attention优化，但发现decoder延迟还是高，你觉得是哪里的瓶颈vLLM 本身的KV cache 是不是反而是负担7. Embedding模型和Rerank模型分别是怎么处理文本语料的？用场景举一下例子8.看你做过RAG，讲讲从数据清洗到检索服务上线这整个链路是怎么搭的，你是怎么做chunk切分的10.你觉得当前RAG的最大瓶颈在哪？你做过哪些改进来提升 Recall11.你们在训练xx领域大模型的时候，SFT 数据怎么构造12.看你做过LoRA微调，那你是怎么选rank值的？合并adapter权重的时候有没有遇到梯度爆炸13.我看你这个特长里面也有写过使用这个模型部署是吧你也做过相关模型部署的工作，那咱们能简要的说一下，我们部署的参数量模型部署的参数量，然后还有它对应的硬件之间的需求关系，比如说我每个参数量的模型所需要的算力需求大概是什么？先给出一个题吧，我们部署一个MOE架构的千分三的235b的一个模型，他所需要的算力大概是多少？14. 比如rag知识库搭建就是比如说我们在搭建这个知识库的时候，需要对这个知识库的文件文档进行动态更新了，那么你之前是用的是全量嵌入还是增量处理？如果是用增量的话，那么怎么来避免新旧文档的文单的分布不一致导致的这种检索偏差的问题15.你那个机械臂的那个动作态这一块融合的这一块，然后你那个具体的数据是怎么进行一个融合的，然后这个对比协议是怎么做的16.在做多模态融合的时候，有没有做过过视觉跟文本之间的对齐任务，怎么做的

时长：1h 面试：1. 自我介绍，介绍简历里面没有的东西2. 本科期间的经历，包括实习和科研3. 聊同花顺软件使用4. 一些个人情况5. offer到岗时间6. 介绍公司周围情况

bg双9硕，在大模型应用开发这个赛道上无论文无实习，有几个横向，自己的项目/小比赛有一两个。可以当作某种层面的三无选手。先前的求职目标是游戏客户端开发，实习也是游开的实习。秋招倒是也有游开的offer，但是没有前几top厂的。所以秋招结束后感觉不能完全押宝游开了（虽然题还是会照刷），打算走个新赛道试试，就算最后不往AI走，起码还是要提升这方面软实力的。毕竟实习时其实业务也逐渐尝试在融入ai了。于是就想问下今年大模型应用开发岗好转吗，三无选手现在准备起来，无实习春招能上岸大厂吗（引流：腾讯、字节、阿里、得物、拼多多、小红书、大疆、滴滴、小米、华为、菜鸟

主包2本9硕，学了一年Java开发，有一段比较长的大厂后端研发的实习，现在大模型太火了，有点儿想往大模型方向转，实验室基本都是就业向，发不出论文来，所以基本只能考虑大模型应用开发。有深度学习基础，研究方向也是大模型相关的，现在开始从头看那些什么langchain，langgraph的视频，感觉太浪费时间了，想直接通过项目去学习，有uu推荐rag和agent相关的项目吗