腾讯LLM算法二面-暑期实习

整体面试还是不错的,但是没后续了,不知道是哪里出了问题
1. 项目拷打
2. 介绍Attention,从数学角度解释一下为啥注意除以\sqrt{d_k}?
3. Agent多轮对话中有哪些难点
4. SFT数据集构建策略
5. 介绍DPO、GRPO、PPO区别
6. 如果评估RAG,评估RAG是否work
7. 说一下大模型全参数微调的显存计算?说一下SMoE怎么推理的?相比于稠密模型有什么优点?
8. 最近看了什么论文和技术报告?推荐算法和大模型有什么地方可以结合呢?
9. 手撕:搜索排序数组
全部评论
好八股 大佬要不要考虑我司 详情见我主页帖子
点赞 回复 分享
发布于 03-30 21:44 上海
Attention 除以 sqrt (d_k) 和 SMoE 推理的问题我也在准备,蹲个大佬解答💡
点赞 回复 分享
发布于 03-30 14:03 陕西
感谢楼主分享腾讯 LLM 面经!这些问题太硬核了,备战算法岗很有用👍
点赞 回复 分享
发布于 03-30 14:02 北京

相关推荐

给我面没招了,感觉自己好菜、面试很难,还是要多多练习1. 实习拷打2. 项目拷打​2.1 介绍项目​2.2 特征工程与业务理解相关,这么做的动机​2.3 模型里是怎么实现自动特征交叉的?​2.4 特征分组的技巧是什么?有没有尝试过完全不分组或随机分组?做过哪些实验,效果如何?​2.5 为什么这种架构可以提升MFU?​2.6 超长序列建模具体怎么做的?这种方案的区别和优势在哪里?信息被压缩的程度有什么不同?​2.7 假如你要引入向量索引系统,在线 serving 服务要做什么改造?应该放在什么模块里?​2.8 在线链路中,这个模块应该放在哪个环节?特征生产,快照流转的完整架构是怎样的?​2.9 样本和线上实时特征如何保持一致?​2.10 OneTrans把序列和非序列特征放在一起组织,不同行为特征是怎么组织的?​2.11 原论文有没有提到其他组织方式?​2.12 OneTrans的金字塔结构具体怎么做?为什么要这么设计?​2.13 attention机制为什么随着序列变长耗时增加很快?时间复杂度是什么关系?​2.14 如果要优化性能,你会做什么样的优化?​2.15 模型推理优化除了传统算子,还会用什么样的架构或加速手段?​2.16 多任务学习中的负迁移/跷跷板问题怎么解决?​2.17  特征重要性是怎么评估的?​2.18 除了mask特征的方式,还有什么方案可以建模特征重要性?​2.19 如果通过特征加gate的方式学习特征重要性,你会怎么设计?3. 手撕代码:两两反转链表
查看20道真题和解析
点赞 评论 收藏
分享
base重庆,专注于智慧政务服务,主要从事电子发票、税务信息化系统研发运维、数据运营分析及人工智能咨询等业务,为重庆市税务局等政府部门提供数字化解决方案。腾讯会议面试 28min1. 自我介绍2. 你之前有过实习经历吗?3. 讲一下你简历的这个agent项目4. 这个项目已经上线了?还是在本地测试?5. 你是一个人做的还是一个团队?6. 介绍一下团队的情况7. 你主要是做后端,对前端和整个服务部署有了解吗?8. Linux有使用过吧?想查看目录里有多少个文件,该怎么做?9. 你了解哪些数据库?10. 讲一下数据库的优化经历11. 比如你刚才说的优化字段,你主要优化哪些?12. 你了解哪些索引?13. 项目中,redis你主要用来做什么?14. 后台登录的过程有使用到redis吗?15. 讲一下ai工具的使用情况16. 编码过程中,讲一下ai的使用方式,主要实现哪些功能?17. 前端有使用过Vue吗?18. 讲一下项目的微信登录接口是如何实现的?19. 微信小程序里识别用户的唯一码叫什么?20. 你觉得未来AI对程序员的影响是什么?21. 你现在开发使用ai多吗?22. 你觉得未来开发过程中,AI和程序员的关系是什么样的?23. 你有想过对Agent调优,设计出专属你编码风格的Agent帮助你开发代码吗?反问环节:1. 公司业务是做什么?2. 公司研发部门的规模3. 后续有二面吗?
查看23道真题和解析
点赞 评论 收藏
分享
评论
点赞
1
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务