斗鱼2021秋招内推

1.Docker 容器和虚拟机的主要区别是什么？Docker 容器和传统虚拟机在资源隔离和运行方式上存在显著差异：1、架构： Docker 容器使用轻量级的隔离方法，共享宿主机的操作系统核心。相比之下，虚拟机则包括完整的操作系统副本和虚拟化的硬件资源。2、性能： 由于Docker 容器不需要完整的操作系统，它们启动更快，性能开销较小。3、资源占用： Docker 容器通常占用更少的存储空间和内存，因为它们共享宿主机的核心和部分资源。4、隔离性： 虚拟机提供了较高级别的隔离，因为每个虚拟机运行在完全独立的环境中。Docker 容器的隔离性相对较低，但仍然足够用于大多数应用。2.Dockerfil...

因为老是有hr偷看我简历，然后老是搞推理框架和算子优化的，我决定从头学一遍并且总结出来。不搞芯片的不用学，这个吃学历和顶会的。也就是为什么我从一开始没搞这个，但是又收到了中科院和香港实验室之类的邀请。现在学好像有点晚了。。。。算啦，搞一下吧。然后其实你们看到的稿子都是我写剩下的，一般都是写好几篇到点就发的。本文需要先看了上期讲芯片的看了才容易点。那么正式开始吧，本文的话还是按照vllm举例，因为时间有限，我和你们的时间都有限，所以我只讲最简单，最通用的东西，第一点：基本上所有的推理优化都是优化Tensor Cores,第二点：其他的SM架构，cuda cores无法被优化，这个是硬件，vllm...