5.30更新，oc了，进度好快，打着游戏，hr打了三个电话才接到，吓死我了😓﹉﹉﹉﹉﹉﹉﹉﹉﹉﹉﹉﹉一面5.27 45min 基本开放性提问，几乎全程自由发挥1.自我介绍2.看你本科也是科班，问常见数据结构，展开说。答从数组链表吧啦吧啦讲到map、hashmap、treemap、concurrenthashmap3.java八种基本数据类型（脑子抽了说了个String，忘说float和double）4.hashmap和hashtable区别5.线程池参数，拒绝策略6.项目中遇到的难点（不知道说啥，说了经典秒杀的几个问题、缓存常见问题、开始吟唱redis分布式锁、分布式id)7.数据量很大要存...

人在尴尬的时候真的会笑😛

LLM 大模型学习必知必会系列(六)：量化技术解析、QLoRA技术、量化库介绍使用（AutoGPTQ、AutoAWQ） 模型的推理过程是一个复杂函数的计算过程，这个计算一般以矩阵乘法为主，也就是涉及到了并行计算。一般来说，单核CPU可以进行的计算种类更多，速度更快，但一般都是单条计算；而显卡能进行的都是基础的并行计算，做矩阵乘法再好不过。如果把所有的矩阵都加载到显卡上，就会导致显卡显存的占用大量增加，尤其是LLM模型大小从7b、14b、34b到几百b不等，占用显存的大小就是惊人的数字，如何在减少运算量和显存占用的条件下，做到推理效果不下降太多呢？在这里需要引入浮点数和定点数的概念。 1.量化的...