某节秋招大模型一面

ai infra推理加速/推理框架方向找实习求捞，之前有一段大厂对口实习经历

11.19 一面1、自我介绍2、问了一下实习经历做的什么3、项目- 项目经历挑一个最难的点说一说- 为什么选择rocketMQ- 缓存一致性（canal具体是怎么操作的）- 会不会有超卖问题- 限流流程4、八股- JVM内存管理（如何避免内存泄漏）- hashmap数据结构（为什么增加了红黑树）- synchronic原理、项目中有用到吗、使用的注意事项- 线程池有用过吗，有什么注意事项- 线程数为什么这么选择- 慢SQL排查与解决- 双亲委派模型（是什么、为什么这么设计）- spring怎么解决循环依赖5、Linux- 查询线程的cpu占有率（列表、最高）- 查找文件- 编辑文件（小、大文本）6、微服务- feign和hystrix有了解吗- 熔断有了解吗，它是为了解决什么问题7、网络- 三次握手四次挥手减一次行不行8、ai相关- 有了解过ai吗- 提示词优化有了解吗- rag有了解过吗- 数据分析数据处理方面有了解过吗（讲了numpy那些，都还很入门，汗流浃背了）- 有没有学习过什么数据库之类的（讲了mnist手写数字数据库）这个数据库有什么实际应用场景吗9、编程题按层打印一棵树（写出大概率逻辑就行）10、反问总结：感觉自己知识面还是有点窄了，Linux部分没怎么答上来，ai部分也臭臭的，继续努力。还有就是回答的时候不够全面，有的平常看会了但答的时候还是漏了，还是多练吧面试官人很好，答不出来他也说没关系的，还会引导着说，反问的时候很诚恳的鼓励和建议，暖暖的11.21 出结果

1．项目介绍，过实习，讲论文，根据表述实时跟进询问交流2．讲一下大模型训练和推理的流程， SFT 和 RLHF 的作用分别是什么3．为什么探索 MoE 架构， MoE 相比 Dense 有什么好处4．有没有全量微调过5．推导一下神经网络反向传播的过程6．在 RLHF 中，目前主流的强化学习算法有哪几个，写一下损失函数的表达式7．一道排列组合的概率题8．平常有用过 RLHF 吗，简单介绍一下9. 开放题：对目前大模型的发展有什么看法10.代码：多头自注意力

1. 字节火山引擎，主要是应用层推理套件的优化，也做国产卡的适配和应用；2. 百度飞桨框架团队，文心一言的训练和优化，也涉及到底层kernel优化和分布式优化；3. 摩尔线程，自研通用GPU的算法优化，涉及领域很广也很深入；4. 芯片初创，自研GPU的LLM优化，技术很先进和前沿，团队核心，wlb；想从职业发展前景，待遇和工作强度上都了解一下，有了解的大佬吗