字节llm大模型实习一面

继续来分享下之前的面经~欢迎友好讨论，信息共享
1.项目相关
2.讲讲设计的初衷，模型结构
3.为什么会想在重排做生成式
4.如果是做生成式召回对模型结构怎么修改
5.召回怎么构造负样本
6.需要热度纠偏吗，减的那个概率和什么有关
7.稀疏 MOE 怎么做的
8.beamsearch 怎么做的
9.大模型了解多少，强化学习了解什么
10.DPO 的全称是什么，公式是什么
11.手撕:计算逆序对数量
全部评论
不是原题我丢
点赞 回复 分享
发布于 03-24 00:02 江苏

相关推荐

03-27 10:16
门头沟学院 C++
影石 音视频开发-C++ 一面
1. 自我介绍2. 写一个高性能模块，需要用链表时，会优先考虑 std::list 吗答案：不一定。很多人看到“频繁插入删除”就先想到 std::list，但高性能场景下不能只看时间复杂度，还得看缓存局部性、内存分配次数、节点额外开销、遍历成本。std::list 的确能做到已知位置 O(1) 插入删除，但它不是连续内存，每个节点单独分配，cache 命中率通常比较差，实际性能未必比 vector 或 deque 好。如果模块里遍历远多于插删，或者数据量大、对 cache 敏感，往往连续存储更占优势。如果确实要频繁中间插删，又担心节点分配成本，工程里还可能结合对象池、侵入式链表或者 boost...
C++ 常考面试题总结
点赞 评论 收藏
分享
03-23 04:25
山东大学 算法工程师
点赞 评论 收藏
分享
03-31 00:39
广西大学 算法工程师
微信 大模型算法开发 一面
1. 介绍下你实习学了什么 做过什么项目,为什么离职的2. MoE 为什么能在参数量很大的情况下还能把训练和推理成本压住，真正难点在哪MoE 的关键不是“参数变多了”，而是“每个 token 只激活一部分参数”。也就是说总参数量可以做得很大，但单次前向只走少数几个 expert，所以理论上计算量不会随着总参数线性增长。这个思路在大模型里很有吸引力，因为可以同时兼顾容量和成本。但真正难的地方是路由和负载均衡。路由器如果只偏爱少数 expert，训练会很不稳定，热门 expert 被打爆，冷门 expert 学不到东西。另一个难点是通信开销，尤其多机训练时，token dispatch 和 gat...
AI-Agent面试实战...
点赞 评论 收藏
分享
04-10 22:30
门头沟学院 算法工程师
点赞 评论 收藏
分享
03-19 15:02
广西大学 算法工程师
点赞 评论 收藏
分享
评论
点赞
8
分享

全站热榜

更多

创作者周榜

更多
正在热议
更多
# AI时代还有必要刷leetcode吗？ #
35446次浏览 441人参与
# 想从事Agent应该学习哪些技术？ #
8672次浏览 295人参与
# 有哪些公司在面试时考察AICoding？ #
19647次浏览 350人参与
# 你的第一家实习公司是什么档次？ #
70325次浏览 335人参与
# HR面都在聊什么？ #
13920次浏览 164人参与
# 大学生该如何认清当下的就业环境？ #
162547次浏览 889人参与
# 26届春招投递记录 #
3656次浏览 42人参与
# 从投递到OC，你用了多久 #
24077次浏览 241人参与
# 什么人最适合大厂？ #
12902次浏览 134人参与
# 哪些公司面试还在问八股？ #
14298次浏览 125人参与
# 父母问你工作找得怎么样，怎么回 #
23305次浏览 285人参与
# 我的求职进度条 #
1117806次浏览 8063人参与
# 如何快速融入团队？ #
50128次浏览 306人参与
# 校招生月薪1W算什么水平 #
143454次浏览 493人参与
# 你觉得什么岗位会被AI替代 #
57284次浏览 371人参与
# 多益网络工作体验 #
68595次浏览 310人参与
# 薪资爆料 #
412715次浏览 2209人参与
# 美团开奖 #
407837次浏览 1805人参与
# 运营来爆料 #
98846次浏览 508人参与
# 你觉得机械有必要实习吗 #
83702次浏览 529人参与
牛客网
牛客网在线编程
牛客网题解
牛客企业服务