一面（1）死锁的两种原因（2）模型量化的方式，我说kv cache和参数量化，面试官问量化是怎么提高推理加速的效率，我答不太上来（3）transformer自注意力层的时间复杂度（4）stack和dequeue的区别（5）算法题：有效ip地址一面面试官是我遇到最善良的面试官，他对跨专业同学的包容性大到难以置信。也很感谢他的宽容和鼓励。最后反问环节，他跟我举了jieba分词的例子，鼓励我要多看代码，掌握好基础知识，很多时候实际应用就是利用大量基础知识来展开实现的。很可惜，他base北京，最终要去的是深圳，没办法找他当我mentor二面印象最深刻的问题是知识蒸馏技术路线。当时我介绍自己的项目，项目是关于bert模型知识蒸馏的。这个项目本身是偏指标驱动的，只要达到一定加速比/参数压缩比和一定范围内的精度损失即可。而面试官则提问我是否有做过文献和技术路线的调研，这部分我没答太好。幸好后面讲自己的工作就比较顺利了。算法题是字节经典题目“螺母螺栓匹配次数计算”，有兴趣的同学可以去查查。至于有没有问八股我记不太清了三面以后的规划、以前项目遇到什么难点+如何解决hr面论文等级、几作、贡献是什么；用几个词评价自己；为了面试做了什么准备；对面试岗位的理解；简单介绍自己的项目；能实习多久；研究生成绩怎样（因为我是转专业的学生，所以hr可能比较关心） #腾讯# #机器学习# #cdg# #算法#

LLM 大模型学习必知必会系列(六)：量化技术解析、QLoRA技术、量化库介绍使用（AutoGPTQ、AutoAWQ） 模型的推理过程是一个复杂函数的计算过程，这个计算一般以矩阵乘法为主，也就是涉及到了并行计算。一般来说，单核CPU可以进行的计算种类更多，速度更快，但一般都是单条计算；而显卡能进行的都是基础的并行计算，做矩阵乘法再好不过。如果把所有的矩阵都加载到显卡上，就会导致显卡显存的占用大量增加，尤其是LLM模型大小从7b、14b、34b到几百b不等，占用显存的大小就是惊人的数字，如何在减少运算量和显存占用的条件下，做到推理效果不下降太多呢？在这里需要引入浮点数和定点数的概念。 1.量化的...

早上刷boss随便投了下放出的测试岗，HR接着打电话过来了，让我下午去面试，学校里的很近，就去了。公司不大，进去就能看到车间，好多机械臂。1、一轮技术面，是个年轻小哥，自我介绍了下就简单聊了聊，做的测试是一半硬件+一半的软件，说实话对硬件不太了解，也不太想直接去动手操作机器。2、HR面，问我一些启发式的问题，然后判断出我的性格。。。3、二轮技术面，看起来是个大佬，比较专业。项目问了一下，然后激光雷达相关的东西问的比较多，回答的还可以。然后问了几个语言相关的问题：1）函数指针和指针函数（没答上来，见过但没仔细看，八股确实是我的弱项，后面开始多背了）2）static关键词3）python怎么读文件4、主管面：问我家那里的，父母什么工作这类的。主管看了简历让一个工程师问我一些感知相关的问题，不难，都答上来了。说可以给我换算法岗位实习，我觉得主管能根据我的简历帮我找合适的岗位确实挺值得令人称赞的！然后就带着我介绍了下公司的产品啥的。感觉公司的人比较人性化，很多员工都是隔壁交大的，实习工资也能接受。（我另一个公司算法实习岗硕士才给150，我过去还要一个多小时）还是比较想去的，也有人能带一下，唯一缺点就是公司规模不大。总之，这个公司给我了一些信心，去面对接下来的学习和挑战。

为什么有ai面试这种🤡东西😫😫😫😫共八道题，每道题思考和回答时间一共六分钟1、自我介绍，学习，家庭，职业规划，实践经历等等2、举例说明你是如何快速掌握一个新的知识并应用的3、在学校／工作中如何快速宇团队成员磨合4、讲述一次说明他人的经历，包含背景，你的动作，最终结果5、让你压力最大的一起经历6、自己印象中最大的一次改变7、看图说话，英文8、意向城市，薪资期望等