百度提前批

1.自我介绍 2. Lora 原理（核心是低秩分解：将原始权重更新近似为两个低秩矩阵乘积，减少参数量，保留主导方向，训练高效） 3.了解 DeepSpeed 吗， ZeRO -1, ZeRO -2和 ZeRO -3分别做了哪些优化 （1 优化优化器状态，2 优化梯度，3 切分参数，全面节省显存） 4. Qwen的模型结构是怎么样的，相比于 LLaMA, DeepSeek 有什么区别（Qwen采用GQA+SwiGLU+RMSNorm，和LLaMA架构非常相似，差异在训练数据和tokenizer中文支持更好；DeepSeek只用MoE/ MLA架构，Qwen系列主要是Dense模型） 5.怎么缓解...

27届211本，投了127份简历，只有4个面试

1、阿里面试1、Linux系统方面1）进程和线程的区别（不能太书面化）（需要从内存角度，或者其他角度描述）需要用自己理解的方式去回答这个问题，如果你回答了xxx是基本单位，这样子是不行的。技术面试会追问你，需要你用自己的话去理解进程和线程。线程和进程是否是独立的？线程和进程的之间内存空间是否是共享的？进程和进程之间是否是共享的？2）线程之间是如何调度的比如说有两个线程：线程A和线程B，线程B要先于线程A运行，或者是线程B运行了多次之后在启动线程A，如何进行调度？3）非实时操作系统和实时操作系统的区别和选择，以及应用场景。2、C语言方面1）static的作用，函数中变量使用static的作用，它...