让 AI 梳理的录音，部分可能会不太准确Q1: 百度这边推理优化用的什么框架,主要做了什么?使用框架: SGLang主要工作:FP8量化: 显存降低50%,吞吐量提升40-50%,困惑度变化<2%Chunked Prefill调优: 升级SGLang到0.5.4版本，默认开启chunked prefill, P999延迟从150ms降到120msCUDA Graph优化: 解决FP8量化模型无法启用Piecewise的问题,通过注册自定义kernel到FakeTensor。P999延迟降到53ms(降低55%),QPS从30提升到60并发稳定性: 修复TokenizerManager高并...

为什么这么短时间有这么多人，之前看面经不是有40多分钟吗😅

如何呢

书📖都被撸秃了，电脑键盘⌨️的按键也包了浆，上课认真听了，也动手努力练了，怎么面试时被问的问题似乎自己好像从没学到位😡，到底是自己笨还是方法不对🙃如果你遇到这个问题，说明学习方式不对路了。书本上讲的和视频里说的，肯定是要把所有的知识点都讲全，否则就是不合格。但现实中常用的，却从来都只是其中的一小部分，这也是符合20/80定律的，也就是说∶你所学的，只有20%是常用的。真题的实战价值 面试中问的问题，大部分都是面试官基于实际工作需要，考察基础和实际问题，这部分反映了企业里真实需要掌握的知识点和能力。许多在编程岗位工作多年的朋友，看到八股精上的面试真题，会惊讶于怎么过了那么多年，现在常见的面...