字节大模型算法三面-秋招面经

作业帮大模型算法面经讲一下kv cache是怎么节省空间的？kv cache的计算流程kv cache有没有改进空间参数怎么调整的？有什么意义？top k/top p/温度参数一个大的模型，怎么得到一个小模型？ Tokenizer 训练用了什么模型？讲一下 Grouped Query Attention 讲一下 RoPE旋转位置编码 git操作 如何拉取一个分支的代码到本地如何讲一个分支的代码提交远端？如果批量的对一批文件做移动操作？旋转位置编码可以加强长上下文，如果这个时候输入了一个超过最大长度的句子，该怎么处理？如何量化评价模型？

1.自我介绍2.未来职业规划和技术发展方向？3.项目介绍4.为什么使用Sa-Token？JWT？5.限流场景下如何去实现黑名单？6.令牌桶算法有什么问题？怎么改进？7.重载和重写区别？8.Redis的zset介绍一下，有哪些应用场景？9.MySQL中inner join和left join的区别？10.有做过偏业务的项目吗，介绍一下？11.（场景题）一家大公司下面有十几个子公司，各种有对应后台管理系统，业务不太一样，各种的订单存储在自己的服务器上，每个公司的服务器相互隔离，现在公司的总裁想查看所有公司的订单流水，如何合理的实现？12.对运维了解吗？docker的一些命令？13.对前端有什么了解？14.反问总结：第一次面试，还是太紧张，说话太卡顿。后端总体不难，场景题当时问起来还是比较懵，但是问了不少关于前端和运维的问题，而且简历里面的两个项目都不是偏业务的，不太符合要求吧感觉。总之下次投简历还是要看清楚要求，针对不同岗位调整简历内容。

困局：全面溃败的暑期实习我是从2025年4月30日正式加入零声的，到今天也算有5个半月了。先讲一下我的背景：2本9硕，非科班。今天是2025年11月28日，我是从2025年开始自学c++的。当时的进度是刚刷完一遍代码随想录，但是是上年12月刷的，早忘完了。而且网络、操作系统、数据库完全不会，项目没有。从2月15日到4月30之前，lc hot100做了一遍（算法算有点记忆），快快地过了一下各种八股，网上随便找了个仿muduo库的项目就开始面试了。为了凑项目，我甚至把本科做过的python爬虫玩具项目写了上去了，然后仿muduo库的项目也不会写上简历，按照别人的模板随便搬了搬上去。说实话项目介绍的...

1．项目介绍，问实习和论文2．实习微调过Qwen2，你说说Qwen2的模型结构吧，Qwen2相比Qwen1做了哪些改进3．为什么现在 Decoder - only 成为大模型的主流架构4．了解过哪些模型训练推理优化的方法5．为什么有了 SFT 之后还需要 RLHF6 .PPO 和 DPO 的主要思想是什么7．代码：23．合并 K 个升序链表