字节实习 大模型算法 面经分享

社招第一次面试手撕了这么多代码.....太硬核了！基操：项目做的是什么？你训练算法过程中一般用哪些损失函数？中途插入问题：qwenvl系列的模块设计由哪些部分组成？然后就直接开始手撕代码了：多模态输入、Token 处理、Self/Cross Attention、Mask、LoRA、Dataset/DataLoader、训练流程、累计梯度、eval、多进程通信、微调方法 全都要会写代码。多模态大模型算法岗 · 高频面试题 + 标准答案（完整版）1. 多模态模型（图文）输入是怎么 Tokenize 的？答：文本用文本分词器转成文本 Token。图片不直接分词，而是切成固定大小的 Patch，每个 ...

给我面没招了，发点面经攒攒人品～1.项目深挖2.attention计算公式，为什么除以dk3.ppo损失函数，解释，各部分是什么4.mha、mqa、gqa、mla5.交叉熵损失手撕6.位置编码有哪些，rope7.mse损失，gae损失，大模型里面怎么算8.大模型里面的ppo，returns是什么9.vit位置编码、二维位置编码、相对位置编码、多模态位置编码

1、自我介绍2、通俗讲一下大模型从训练到落地到评测的全过程可以把大模型看成一个先大量学习、再针对任务训练、最后真正上岗工作的系统。第一步是预训练。这个阶段会给模型非常大量的文本，让它去做“根据前文预测下一个词”这样的任务。比如给它一句“今天天气很”，它要预测下一个字可能是“好”还是“热”。这个过程做得足够大以后，模型就会学到语言规律、常识知识、一些推理模式和表达能力。第二步是微调或者对齐。预训练出来的模型虽然懂很多东西，但不一定会按人的要求回答，所以还要进一步训练。比如给它大量“问题-答案”数据，让它学会更像助手一样回复，这就是 SFT。有些场景还会继续做人类偏好对齐，比如让模型学会什么回答更...

零实习，没什么经验，其实很怕，不敢面，但是其他厂都不捞我的，只能硬着头皮面了。感觉最主要还是项目不熟悉的问题，追问一下就只能沉默表示不知道说什么。八股勉强还能把基础的答出来，算法也是入门的水平。感觉自己面试时说话都不利索，有些内容说着说着自己都觉得没讲明白，只好最后来个总结句期望面试官能听懂我在说什么。感觉三回都是差不多的问题。后面有点不知道怎么办，字节HR在ssob上确实很热情，但感觉是kpi，其他的话，没面过，希望最近有笔试的几家能捞我去面面。不过话说回来可能还是要沉淀？但这学期又过得挺快的。