一面 自我介绍实习项目拷打（简历里只要写了的全问了，第一次经历这么压力的面试，各种细节，包括但不限于微调原理、分布式训练、Agent的理解等各种细中细）RAG实现流程？召回错误有什么解决方法？了解GraphRAG吗？pytorch中有什么加速训练的小trick？无八股拷打手撕LRUcache当场通知可以二面二面聊实习手撕LRUcache（二面氛围好多了，无拷打，无八股，还考了一样的代码题绷不住了，迅速解决了战斗）当场通知可以hr面再见了团子，你很好，我只是更想去字节

挑了两个八百年没人问过的项目（听了后面的业务介绍，感觉和业务有关）1. 什么是lora？lora原理？2. 有什么其他的微调方法（qlora、prefix-tuning、p-tuning、adapter）？介绍qlora原理3. 介绍混合精度计算4. 介绍分布式训练，什么是DP，DP的梯度怎么传递？5. 懂大模型部署吗？（不太懂，只知道vllm）面试官介绍业务半个小时结束战斗，简单到我怀疑人生了，没有八股没有code，我都不知道是不是不想要我———————————————更新：已通过，真速度呀，二面完第二天就问去不去，先等一手其他公司吧

[职位]多模态内容理解[面试]1. 讲实习经历2. 哪些任务通常选择在预训练阶段获得能力？哪些任务是在SFT阶段增强能力？3. 为什么经过SFT后，某一方面能力上升的同时另一方面能力下降？4. 什么是CoT？怎么使用CoT？5. 什么是ToT？什么情况使用ToT？为什么ToT落地困难？6. Qwen-base和Qwen-instruct的区别？7. 挑一个科研经历讲讲8. 三数之和（排序+双指针）[总结]很轻松，没八股，纯吹水，泰爽辣！

1. 讲一下大模型从0到1的训练过程2. 为什么不能跳过SFT去做RLHF3. 有哪些提高predict质量的方法（self-consist、cot、few-shot等）4. 在pretrain中同时有代码和文字知识，在SFT时学习新的代码和文字知识哪个更难？（从pretrain的指标（PPL）上分析）5. 在做训练时出现复读现象如何debug？怎么解决推理时的重复现象？另外求教一下第2题是为什么🧐

牛友们，有什么大模型八股推荐嘛！救救孩子