秋招腾讯混元后台开发三面

三面
1. PD分离相比传统的部署方法有什么优势?
2. 还有呢?(按照前面的回答已经不满足了,整不会了)
3. 但是PD分离会带来额外的通信开销,这块儿你有了解吗?
4. 并不是所有的模型都适合PD分离部署的方式,这块有了解吗
5. sglang和Monocake他们具体是怎么做的?
6. 如果让来设计路由方案应该怎么设计?(PD分离部署的路由方案)
7. 得分怎么计算的?(我前面的问题回答了路由的时候会计算不同部署节点匹配度的得分)
8. 万一匹配度度得分最高的节点负载最高呢?
9. 你实习中写到PD分离的吞吐量token提升了5倍,是什么模型?是整体的吞吐量还是响应的时间?为什么提高这么多?
10. 是一个任务还是一个batch?
11. 你最近有考虑过实习机会吗?
12. 以前学过数据结构是吧,写代码时间不够了,那你直接说说怎么实现一个前缀树的数据结构
13. 如何优化前缀树的匹配查询时间呢?
14. 听说过MOE吗
15. 大模型答非所问怎么办
16. 如何实现一个mater-slave同步模式
17. 怎么避免由于从节点数据同步不一致问题导致一直读到脏数据呢
18.反问环节
全部评论

相关推荐

昨天 20:18
西安邮电大学 C++
腾讯云智新人融入与个人提升:探索城市生活首先,对于新人来说,云智的工作氛围依然非常注重人性化。早上上班没有严格的打卡要求,每天只需打一次卡即可。即使忘记打卡,也可以找相关人员说明。导师都是一对一指导,我们组的氛围依旧非常nice!新人的导师很“和蔼可亲”,团队中的每一个人也会在你询问的时候耐心教你,帮助你,不用担心打扰到你的同事,大胆提问(新手保护)。新人想要提升快,我可以分享一下我的经验:1.注重文档输出,每一个工作先输出方案,让有经验的程序员帮你review下,会让你受益匪浅事半功倍。2.不要怕出错,一定要有回滚方案,第一时间回滚,维护稳定系,后续在找bug。还有很多点,这里就不一一赘述了。第二点,云智的办公环境也是很标准的办公环境,每一个同学macbook(现在发M3了)+ 4k显示屏,还是非常不错的,公积金按照当地最高标准(12%缴纳),平常也会有什么小活动,可以获得腾讯企鹅。最后,我的base是在西安,作为一个地道的陕西人,西安西北地区的繁华区,有数不尽的美食,逛不完的名胜古迹,最重要的是,这里没有一线城市的快节奏,也没有三四线城市的慢节奏,没有沿海地区的自然灾害,也没有极端的天气和温度。新人融入和个人提升是一个持续的过程。通过积极参与城市生活、适应腾讯云智的工作环境、学习业务知识以及不断提高个人技能,我相信大家将在职场中取得更大的成功。在这个过程中,保持积极的心态和勇于接受挑战是实现目标的关键。这些工作经历让我更加坚定了自己的选择,也让我对未来充满了信心。希望我的分享能对大家有所帮助。作者:GreyPigeon链接:https://www.nowcoder.com/feed/main/detail/3a4be4731b034dd49b29d3ad4573962a?来源:牛客网
腾讯云智研发成长空间 250人发布
点赞 评论 收藏
分享
京东面经(总共30分钟,项目15分钟,八股15分钟)1.1-2分钟自我介绍项目一(rag)1)请你讲一下文档解析与向量检索的部分2)文档解析这一块,不能解析扫描件的pdf文档类型,你后续有什么方法去解决吗(我答的利用MCP去调用WPS的文档解析服务,面试官补充说可以利用OCR工具去实现3)ES向量检索召回率很低怎么办,(答了利用faiss去优化向量检索4)用的什么向量模型,维度是多少,有去横向对比过吗5)用到了什么大模型,这个大模型的优缺点是什么,横向对比过吗6)平时会去用ai辅助编程吗7)redis在项目中主要的用途有哪些8)在利用security+jwt这样的鉴权方法,有什么更好的方法去优化吗(面试官补充了SSO,OAuth,可以实现第三方登录,单点登录)9)讲一下你实现的security+jwt这样的过滤器流程,怎么进行权限控制的10)为什么要用websocket去进行交互,优缺点在哪,相比于http的区别11)谈一下你对ai的看法,了解哪些ai的技术栈,框架,未来的发展方向有想法吗12)有什么想特别学习的技术吗项目二1)讲一下利用Redis缓存+定时异步将热点数据的并发点赞、评论、和收藏回写到数据库2)你刚刚说定时用到了@schedule注解,那如果是6台服务器去回写,怎么保证一致性,你会怎么做3)雪花算法的核心概念讲一下,它的缺点在哪,它在部分场景下会失效,有什么更好的ID生成方法吗4)两个项目的消息队列用的是什么,为什么要用rabbitMQ和Kafka4.八股1)反射的缺点是什么2)注解的底层原理是什么3)讲一下JVM的运行时内存区域,各自的作用是什么,static修饰的成员变量放在哪4)讲一下类加载机制5)项目中有用到并发编程的地方吗6)讲一下线程安全类,说一两个,他们在项目中的使用场景7)concurrHashmap和hashmap的区别,在项目中有用到吗8)semaphore,countdownlatch,cyclicBarrier了解吗9)MySQL的锁机制,索引类型,为什么要用B+树10)redis的持久化过程11)怎么自定义Starter的,详细过程讲一下12)有读过框架的底层代码吗,mybatis,问了xml配置文件中,从前端到dao层的流程,xml配置文件中的sql语句是如何运行的13)项目管理除了maven,还有用到其它的吗
查看30道真题和解析
点赞 评论 收藏
分享
评论
1
收藏
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务