略科技2021校招内推

周周过往帖子大合集，值得收藏~👇https://www.nowcoder.com/discuss/602105195807449088【春招补录在招，24届还有HC赶紧投！！！】【25届提前批&实习快来看机会！！！】 快来点击查看更多更全校招信息吧！公司名称招聘批次招聘岗位工作地点阿里巴巴25提前批算法工程师、研发工程师、产品经理、测试开发、前端开发、产品运营、用户运营、市场营销、体验设计师等杭州、深圳毕马威暑期实习 审计、风险咨询、技术咨询、税务、组织与人才发展等北京、上海、成都、香港、重庆、合肥、广州、长沙宇通集团24春招电化学、控制算法、新能源动力系统开发、...

不想招人就别发笔试，拉黑了😅

速成Java快4个月了😋

LLM 大模型学习必知必会系列(六)：量化技术解析、QLoRA技术、量化库介绍使用（AutoGPTQ、AutoAWQ） 模型的推理过程是一个复杂函数的计算过程，这个计算一般以矩阵乘法为主，也就是涉及到了并行计算。一般来说，单核CPU可以进行的计算种类更多，速度更快，但一般都是单条计算；而显卡能进行的都是基础的并行计算，做矩阵乘法再好不过。如果把所有的矩阵都加载到显卡上，就会导致显卡显存的占用大量增加，尤其是LLM模型大小从7b、14b、34b到几百b不等，占用显存的大小就是惊人的数字，如何在减少运算量和显存占用的条件下，做到推理效果不下降太多呢？在这里需要引入浮点数和定点数的概念。 1.量化的...