LLM 大模型学习必知必会系列(六)：量化技术解析、QLoRA技术、量化库介绍使用（AutoGPTQ、AutoAWQ） 模型的推理过程是一个复杂函数的计算过程，这个计算一般以矩阵乘法为主，也就是涉及到了并行计算。一般来说，单核CPU可以进行的计算种类更多，速度更快，但一般都是单条计算；而显卡能进行的都是基础的并行计算，做矩阵乘法再好不过。如果把所有的矩阵都加载到显卡上，就会导致显卡显存的占用大量增加，尤其是LLM模型大小从7b、14b、34b到几百b不等，占用显存的大小就是惊人的数字，如何在减少运算量和显存占用的条件下，做到推理效果不下降太多呢？在这里需要引入浮点数和定点数的概念。 1.量化的...

小厂实习面试，面得时候三个人，一个hr，一个技术面试官，还有一个貌似是领导。领导真是什么都问啊，甚至问到了我学校‘必修’的选修课上的大创项目，让我给她介绍介绍，我是真滴难绷，我一个混子连项目名都不知道怎么跟他说😋(小组用舍友上一届大创的项目，一稿多用，主打一手互相糊弄)，还有问我大学三年都干嘛了，为什么选择这个方向还有一些稀奇古怪的问题。我真的想给她两拳😡。

如同他甚至想让我直接找工作 #华为开奖那些事#  #华为求职进展汇总#

从网上搜集了各大互联网的薪资数据给大家参考下，数据来源主要有读者、OfferShow等等，不代表权威，仅作分享（薪资介绍部分参考原文：小林coding）。腾讯腾讯年总包构成 = 月薪 x 16 + 签字费 + 房补 + 股票普通 offer：19k～22k*16+4k*12（房补）+签字费 3w（部分有），年包：35w～43wsp offer：23k～24k*16+4k*12（房补）+签字费 3w+股票6w/2 年，年包：44w～49wssp offer：26k～28k*16+4k*12（房补）+签字费 5w+股票6w/2 年，年包：50w～58w股票是明年和后年分波到账，比如 6w 分两年的...