吉利电话面

1. 自我介绍2. 训练一个 decoder-only 大模型时，为什么 embedding 层和 lm head 常常共享权重权重共享本质上是一种参数高效和统计一致性的设计。输入端 embedding 学到的是“token 到向量空间”的映射，输出端 lm head 学到的是“隐藏状态到词表概率”的映射，如果这两个空间本身就在描述同一个词表语义，那么共享权重可以减少冗余参数，并让输入语义空间与输出判别空间保持一致。从优化角度看，共享权重还能起到轻微正则化作用，尤其在词表非常大时更明显。代价是模型表达自由度下降了一点，但对大多数语言模型来说这个损失远小于收益。很多实现里会保留一个独立 bias...

🎓学历背景：专科,广西农业职业技术大学软件技术👨‍💻意向职位：测试📍求职类型：IT🔑遇到的问题：

1. 如果某个 Linux 进程内存持续上涨，但没有明显崩溃，你会怎么判断是内存泄漏还是内存碎片问题？答案：先看内存上涨的是哪一类内存。通过 top、pmap、smem 或 /proc/PID/status 观察 VmRSS、VmSize、匿名页、文件映射区的变化，确认到底是堆增长、mmap 增长，还是缓存导致的占用上升。如果怀疑内存泄漏，要看申请和释放是否失衡。可以结合 valgrind、asan、自定义内存统计埋点，检查某些对象是否只申请不释放，或者异常路径、超时路径、错误返回分支里遗漏了释放逻辑。如果怀疑内存碎片，要看“总内存够但连续可用块不足”的现象。这类问题常见于频繁申请释放不同大小...