天翼云许愿oc [求求了]

C++开发 9 年，目前人在大厂，做 C++ 相关的开发，作为资深 C++ 面试官，我来聊聊面试官眼中的校招简历中的 C++ 项目吧，希望对各位学弟学妹有帮助。1. 简历中如何介绍自己的项目？从面试官的角度来说，我们也是从学生时代过来的，对于大多数学生做的项目的水平都心知肚明。对于应届生，项目其实不是必需的，面试官更看重的还是基础知识部分；倘若某位同学在简历中描述了自己的项目，那么面试的时候，面试官会结合项目的内容考察一下。为了让大家可以感同身受，我截取了两份真实应届生求职 C++ 岗位的简历中项目描述，你可以自己先想一想，如果在简历中这样描述项目，面试时可能会被问到哪些问题。1.1 A 同学...

the shy来（代码）全跑了

 求捞捞  有工作就行呜呜呜

LLM 大模型学习必知必会系列(六)：量化技术解析、QLoRA技术、量化库介绍使用（AutoGPTQ、AutoAWQ） 模型的推理过程是一个复杂函数的计算过程，这个计算一般以矩阵乘法为主，也就是涉及到了并行计算。一般来说，单核CPU可以进行的计算种类更多，速度更快，但一般都是单条计算；而显卡能进行的都是基础的并行计算，做矩阵乘法再好不过。如果把所有的矩阵都加载到显卡上，就会导致显卡显存的占用大量增加，尤其是LLM模型大小从7b、14b、34b到几百b不等，占用显存的大小就是惊人的数字，如何在减少运算量和显存占用的条件下，做到推理效果不下降太多呢？在这里需要引入浮点数和定点数的概念。 1.量化的...