腾讯秋招Teg混元后台开发三面

三面
1. PD分离相比传统的部署方法有什么优势?
2. 还有呢?
3. 但是PD分离会带来额外的通信开销,这块儿你有了解吗?
4. 并不是所有的模型都适合PD分离部署的方式,这块有了解吗
5. sglang和Monocake他们具体是怎么做的?
6. 如果让来设计路由方案应该怎么设计?
7. 得分怎么计算的?
8. 万一匹配度度得分最高的节点负载最高呢?
9. 你实习中写到PD分离的吞吐量token提升了5倍,是什么模型?是整体的吞吐量还是响应的时间?为什么提高这么多?
10. 是一个任务还是一个batch?
11. 你最近有考虑过实习机会吗?
12. 以前学过数据结构是吧,写代码时间不够了,那你直接说说怎么实现一个前缀树的数据结构
13. 如何优化前缀树的匹配查询时间呢?
14. 反问
全部评论

相关推荐

11-24 03:10
门头沟学院 Java
总共50min八股+30min做题1.实习介绍2.你熟悉哪些编程语言3.go的channel介绍下4.go的recover panic defer关键字5.go中的slice和数组有什么区别,slice的底层是什么6.go的context了解吗7.mysql事务说一下(ACID特性)8.mysql的索引相关9.你提到了B+树,介绍下10.B+树的叶子结点之间是通过什么链接的11.怎么判断sql走了索引(explain关键字)12.mysql的基础数据类型13.mysql中的char介绍下,,一般那些场景用char14.redis数据结构15.介绍下redis的跳表那些16.redis集群了解吗,介绍下17.redis AOF快照哪些介绍下踌关18.python看你也用过,那解释下装饰器19.python的生成器20.python的协程序21.python async关键字怎么用22.python yield那些用过吗23.看你做过java的项目,介绍下spingboot中@service和@Configuration的区别24.看你简历写了前端,那你说下vue2和嗵vue3的区别25.了解vue中beforeMount吗26.你简历上写了kafka,你用kafka干嘛的27.简历上还写了k8s介绍下k8s的底层28.ElasticSearch看你用过,介绍下底层结构29.你的第一段工作经历主要做了什么介绍30.你目前在momenta实习干了什么31.leetocde3 最长无重复串绰上32.给了几个字符串,输出按字典序排序的吩据有结果33.做完题又问我你对大模型怎么看34.大模型在哪里能改变我们的生活,你怎么看35.你觉得你还有哪些技术栈你会但是我没问到36.你有什么想问的
点赞 评论 收藏
分享
评论
点赞
收藏
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务