中行软件中心体检

1. 介绍一下你做的这个项目2. LoRA 的基本原理是什么LoRA 的核心思路是，微调大模型时没有必要把整个权重矩阵都更新掉，而是只学习一个低秩的增量。原始权重记作 (W)，微调后的权重写成：其中 (A) 和 (B) 的秩都很低，参数量远小于直接更新整个 (W)。训练时冻结原模型参数，只训练这两个小矩阵，这样显存占用、优化器状态和保存体积都会小很多。它适合做领域适配、指令微调这类任务，因为很多任务对模型的改动并不需要覆盖完整参数空间。LoRA 常见会插在 attention 的 q_proj、v_proj 上，有时也会加在 k_proj、o_proj 或 MLP 层。选哪些层，本质上是在表达...

继上次三方毁约后，又拿到了腾讯社招offer

这是我在BOSS遇到最有人性的hr，他的鼓励简直让我这么久人机般投简历来，最感动的一次，真的好想进这家公司啊😭😭😭

一直想发的，但因为一面面了 1h47min 让我整理面经就整理了好几天小黑盒面试官有个特点，你要是没回答到他的点上，他就会打断你，会一直深挖整个面试压力爆大，过程中大脑宕机重启宕机重启一面自我介绍介绍下 GMP 是什么东西？如果在早期的 GM 模型中，我们直接给每个 M 分配一个本地队列和上下文资源，不也能解决全局锁冲突的问题吗？为什么非得在 G 和 M 之间，再凭空造出一个 P 的抽象层呢？M 没法窃取吗？为什么非要 P？如果 M 阻塞掉，P 会怎么处理？怎么动态知道 M 会阻塞，并提前退回 P？M 被解绑后，它还有 P 吗？新接手的 M 是哪来的？如果所有的 M 都进行了系统调用，程序会停...