因为老是有hr偷看我简历，然后老是搞推理框架和算子优化的，我决定从头学一遍并且总结出来。不搞芯片的不用学，这个吃学历和顶会的。也就是为什么我从一开始没搞这个，但是又收到了中科院和香港实验室之类的邀请。现在学好像有点晚了。。。。算啦，搞一下吧。然后其实你们看到的稿子都是我写剩下的，一般都是写好几篇到点就发的。本文需要先看了上期讲芯片的看了才容易点。那么正式开始吧，本文的话还是按照vllm举例，因为时间有限，我和你们的时间都有限，所以我只讲最简单，最通用的东西，第一点：基本上所有的推理优化都是优化Tensor Cores,第二点：其他的SM架构，cuda cores无法被优化，这个是硬件，vllm...

第一个实习真的很难找，很多企业直接不要大三的，在boss上沟通了一百多家，一共只投出去了10份左右简历，求牛友们出出主意😭😭😭

在企业运营中，海量文档散落在各个员工的电脑、聊天工具和公共网盘中，核心资料面临泄露风险，团队协作效率低，信息查找如同大海捞针......市面上的SaaS文档虽然方便，但是数据安全、定制化需求和长期成本不可忽视。现在有一款开源的，提供私有化部署的，前后端分离的企业级在线文档——无忧企业文档来了。无忧企业文档是专门为中小企业设计的一款在线文档系统，主要解决企业内部文档编辑、知识沉淀、知识协同等痛点问题。支持Docker一键部署，可离线部署。支持PC端和H5端。逻辑架构如下：技术栈前端：VUE3.0+Element-ui后端：spring_cloud_alibaba、spring boot、Myba...