阿里妈妈内推

大家好，我是25届985硕。记得当时秋招结束后，我把自己关在宿舍整整三天。因为投递得晚，很多公司都已经招满了。简历投了40多家，面试了七八轮，最终全军覆没。室友们陆续拿到offer，只有我还在刷招聘软件，那种焦虑和挫败感，相信现在正在准备春招的你一定懂。 当时我甚至开始怀疑，是不是自己真的不行。但后来我明白了一件事：秋招失利不代表终点，好offer不怕晚。 转机出现在次年2月底，我在牛客上刷到巨人网络的春招信息。因为我一直很喜欢游戏，算是《太空杀》的忠实玩家，就想着投递游戏开发试试看。没想到，7天内收到了笔试邀约，然后很快收到了邀请到巨人网络园区面试，当天把所有面试流程走完，也顺利拿到了off...

搞笑呢？？？？？

一般情况下，我们聊到“大模型的量化”，想到的大概率是“把FP16转成INT8或INT4，从而降低显存、加速推理”。其实我觉得工程上没毛病，因为很少有人会去探索啥玩意是量化，但你要是放在算法岗的面试上，这样通常是不够的。面试官往往会继续追问：精度明明降低了，模型为什么还能正常工作？什么时候量化会失效？如果这时答不上来，基本就已经失分了。（我的答案放在文末）要把这个问题讲透，可以换一种更有层次的表达方式，从“是什么”到“为什么”，再到“什么时候不行”和“怎么选方案”，逐步展开。首先，从本质上看，量化并不复杂，它做的事情就是用更少的比特去近似表达原本的高精度参数。原本一个FP16权重用16bit表示...