秋招腾讯混元后台开发二面
二面
1. 队列管理中提到数据不一致问题,你是怎么遇到这个问题的,是如何解决的?
2. PD分离这块的处理逻辑你有了解吗?为什么要做PD分离?
3. 你提到用SgLang做的,他是如何处理用户的请求的呢?
4. 如果P节点或者D节点有异常,应该如何发现和处理呢?
5. 假设你负责模型上游的路由调度这一块儿,你应该如何处理?
6. 除了SgLang,你还了解其他推理框架吗?
7. 英伟达的推理框架有了解吗?
8. 离线调度任务的具体流程是什么?
9. 如果设计队列任务中的优先级呢?
10. 如果一个高优推理任务需要马上执行,而且当前集群中已经没有其他可用资源了,你应该怎么设计?
11. xx生活服务平台上线了吗?
12. 你为什么要选择用rabbitmq,你还知道其他消息队列吗?
13. 你提到用了RAG,在项目中具体是怎么实现的呢?
14. 校园助手的模型你用的是DeepSeek多少量级的?
15. 用的快速思考模式还是慢思考模式?
16. 你有统计过你改进后的模型,返回的token大概是多少吗?
17. 你在项目中用到的redis,有遇到过什么问题吗?
18. 什么是缓存穿透?
19. 除了缓存穿透,还有什么可能会发生的情况,讲讲什么时候会发生这些
20. 你简历中的科研项目主要是做的算法相关的改进吗?
21. 我看你这边技术栈主要是java,我们这边主要是go、C++、python,你接受吗?
1. 队列管理中提到数据不一致问题,你是怎么遇到这个问题的,是如何解决的?
2. PD分离这块的处理逻辑你有了解吗?为什么要做PD分离?
3. 你提到用SgLang做的,他是如何处理用户的请求的呢?
4. 如果P节点或者D节点有异常,应该如何发现和处理呢?
5. 假设你负责模型上游的路由调度这一块儿,你应该如何处理?
6. 除了SgLang,你还了解其他推理框架吗?
7. 英伟达的推理框架有了解吗?
8. 离线调度任务的具体流程是什么?
9. 如果设计队列任务中的优先级呢?
10. 如果一个高优推理任务需要马上执行,而且当前集群中已经没有其他可用资源了,你应该怎么设计?
11. xx生活服务平台上线了吗?
12. 你为什么要选择用rabbitmq,你还知道其他消息队列吗?
13. 你提到用了RAG,在项目中具体是怎么实现的呢?
14. 校园助手的模型你用的是DeepSeek多少量级的?
15. 用的快速思考模式还是慢思考模式?
16. 你有统计过你改进后的模型,返回的token大概是多少吗?
17. 你在项目中用到的redis,有遇到过什么问题吗?
18. 什么是缓存穿透?
19. 除了缓存穿透,还有什么可能会发生的情况,讲讲什么时候会发生这些
20. 你简历中的科研项目主要是做的算法相关的改进吗?
21. 我看你这边技术栈主要是java,我们这边主要是go、C++、python,你接受吗?
全部评论
相关推荐
点赞 评论 收藏
分享
查看15道真题和解析