字节大模型算法校招一面

1-4. 项目提问5. lora是啥讲一下6. 了解transformer架构吗7. 为什么现在的模型都用decoder？8. 了解哪些推理加速的方法？9. 了解小龙虾吗？你感觉他的代码架构对你有什么启发？

给我面没招了，感觉自己好菜、面试很难，还是要多多练习1.项目拷打2.你在去部署或者训练预训练或者后训练的模型时，有没有用过一些比较底层的一些训练的调试的工具，比如说千卡的话很容易就会出NCCL timeout，如果出现 NCCL timeout，一般怎么定位和解决？3.像那种rl里面的那个MOE之类的那种的优化有去做过吗4.看您的训练经验比较丰富，而且您上线运行的推理内容之前也进行过一些什么样的优化吗？5.有没有做过 kernel级别的优化？比如用 CUTE DSL或者手写 CUDA去做 fusion这类算子融合优化，介绍一下6像底层，如果你们在做.kernel fusion，倾向于用什么方式来做7.有没有哪次你做了 fusion 结果性能反而下降的？原因是什么8.平时写 CUDA的时候，有没有关注到底层实现细节？比如你刚提到 FA2，那再往下一层，像 Hopper架构里那个 warp specialization是什么，它底层大概是怎么实现的9.试过用 Agent去生成cuda内核么，怎么去做的10.如果我把 warp specialization 去掉，只保留 tile 和 shared memory 优化，大概会损失在哪？11.怎么么判断一个 MoE 模型是真的学到了分工，而不是只是把 dense模型拆开了12.在 RL + MoE 里，有没有遇到过 reward把 routing学坏的情况？就是模型为了拿 reward，全都走某几个 expert，这种情况你当时是怎么处理的

发一下问题给大家参考，攒攒人品！有面试过同岗的朋友欢迎评论区交流1、实习拷打2、手撕：荷兰国旗问题lc75；没想起来Scanner库是哪个包里的，面试官让我分析下写的代码。3、项目拷打：图文社交平台项目：（1）网关（Gateway）的鉴权是如何实现的？与用户认证的关系？（2）Token是如何生成和设计的？JWT在其中扮演什么角色？（3）二级缓存（Redis + Caffeine）的数据结构是如何设计的？存储了什么内容？（4）如何保证缓存（Redis与数据库之间、Redis与Caffeine之间）的数据一致性？（5）项目中使用了Cassandra，为什么选择它？与MySQL相比有什么优势？电商秒杀平台（黑马点评Plus）：（1）秒杀功能的整体流程是怎样的？（2）如何防止超卖和保证一人一单？（3）Redis + Lua脚本具体是如何实现的？涉及哪些数据结构和命令？（4）为什么选择Redis+Lua而不是Java本地锁？（5）消息队列（RocketMQ）在其中的作用是什么？如何解耦？4、八股文环节：MySQL：（1）InnoDB事务是如何实现的？（2）MySQL有哪三种日志？各自的作用是什么？RocketMQ：（1）发送一条消息的完整流程是怎样的？（2）RocketMQ的存储设计有什么特点使其性能较高？（3）RocketMQ有哪些高性能设计？（4）RocketMQ的延时队列是如何设计的？

1、为什么决定选用RAG这个技术框架?2、为什么要用向量检索(RAG)?不用其他方式?3、Transformer中Attention的本质是什么?4、SFT的核心流程有哪些，SFT之后常见的Post- Training有哪些?5、如果让你设计一个多轮对话的Agent,你认为纯 Attention结构在处理长时间对话时，会遇到哪些瓶颈?6、什么是RAG，为什么没选向量库?7、现在给你一个RAG系统,你怎么设计一套评估方案来判断它‘好用’?8、你用的切分策略是什么?9、Prompt自动推荐模块用了哪些优化策略?有没有尝试过Prompt压缩或embedding表示的方式?10、在做对齐时，PPO和DPO你更倾向于用哪个? 有什么区别?11、假如一个Agent推理链路包含3个工具+高频请求,系统整体延迟较高,你会如何优化?