字节 安全与风控

4.2 字节一面1.论文跟实习经历的关系2.实习中，处理的时序数据都是什么样的数据？信号代表什么？3.详细介绍一下项目中的技术部分是怎么做的？（基本都是结合论文）4.做pre-training的时候loss的权重是怎么设计的？5.简述一下几篇对比学习的工作，介绍一下技术发展脉络？是否了解MoCo？6.有没有做过大模型微调？LoRA是否了解？为什么可以省显存？7.Agent项目里用的框架是什么？它是怎么决定自己要做哪一步的？8.workflow和agent的主要的区别9.问了几个GRPO的问题10.讲一下归纳偏置11.解决模型过拟合的方式12.transformer里的因果attention怎么实现的13.介绍一下位置编码？旋转位置编码的作用14.梯度消失和梯度爆炸的原因？如何解决？15.手撕：最长无重复子串

一、面试问题A. 项目经历与业务理解1. 实习1. 先介绍一下你的这段实习经历。2. 听起来你的工作主要集中在数据/样本构建上，是吗？3. 你这里写了 VQG 和 VQA 一致性评估，这里的“一致性评估”是什么意思？4. 所以你的意思是，让大模型先生成问题，再生成答案，然后看问题和答案是否对得上，是吗？5. 所以最后是不是回答不一致的样本，就说明它比较难？6. 这个项目过程中，你有做过哪些模型方面的工作？2. LLM-as-a-Judge 项目7. 研究生阶段你还有一个 LLM-as-a-Judge 的项目，能大概介绍一下吗？8. 你最后这个总分好不好，是通过一个下游任务来验证的吗？9. 如果我理解得对，就是你打分之后选 Top 20% 的数据去微调，再和随机选 20% 做对比，是这个意思吗？10. 这个事情听起来很像样本选择，甚至有点像强化学习，你有从这个方向考虑过吗？B. 强化学习基础11. 你对强化学习了解吗？系统地学习过一些强化学习的方法吗？12. on-policy 和 off-policy 分别是什么意思？13. importance sampling 是什么？14. DPO 和 PPO 是什么关系？它们有什么区别？C. LoRA / 参数高效微调（这里因为我简历写了一个LoRA所以面试官追着来杀）15. 你在项目里用 BLIP-2 做了 LoRA 微调。LoRA 为什么可以省显存？16. 你虽然加的是一个低秩小矩阵，但不管多小，参数总归是增加了。那为什么在参数增加的情况下，LoRA 反而还能省显存？17. 推理的时候呢？推理阶段用 LoRA 和不用 LoRA，有什么区别？效率上有什么影响？D. 多模态模型 / VLM1. BLIP-2 相关（因为LLM-as-a-Judge里面提到了这个细节）18. 你为什么选择 BLIP-2 做微调？选择 BLIP-2 的考虑是什么？19. BLIP-2 相对于 BLIP 有什么改进？2. VLM 路线理解20. 你对 VLM 这条线还有哪些了解？之前有关注过哪些相关工作？21. Qwen VL 了解吗？22. 相比于 LLaVA，Qwen-VL 有哪些不一样的地方？你有没有了解过？E. Transformer / 大模型基础23. Position Encoding 是什么？有哪些分类？24. 旋转位置编码、绝对位置编码，是直接加到 token embedding 上的吗？25. 相对位置编码呢？比如 RPE 这种，它一般是加到哪里？26. decoder 里面 causal attention 是怎么实现的？F. 手撕：最长不重复子串二、反问1. 部门目前主要负责的业务内容是什么？团队主要在做哪些事情？部门整体是做风控的，负责平台上的各类风险问题。大的方向包括内容风险，比如违规图片、违规文本；也包括用户层面的欺诈、作弊等风险。具体到他们团队，主要做几类事情：一类是机器作弊流量和攻击检测，比如爬虫、自动化攻击、人工获取数据等；一类是人机验证相关能力，比如真人检测、验证码等还有一类是识别图片、文本里隐藏得很深的网址，并判断这些网址的风险，这些网址往往会把用户引到站外赌博、色情等高风险网站。2. 这个岗位平时更 focus 哪些算法领域？更希望候选人掌握哪些知识、算法方向和工程经验？首先还是需要有大模型基础，对大模型的一些基础概念和原理要比较了解。其次，像他们做隐藏网址识别这类任务，如果输入是图片、图文、视频，本质上就是一个 VLM 问题，所以也会希望候选人具备多模态/VLM 方面的理解。还有一块是 Agent，因为他们现在也在探索用 Agent 节省人力、提高效果，所以这方面也有需求。至于为什么会追问 RL，是因为 Agent 往底层看，算法基础还是会和 RL 有关系，所以他们对这方面也是有期待的。3. 这个部门属于哪个业务？是抖音还是 TikTok 相关？会和哪些部门合作？这个部门属于 Data，可以理解成字节的中台部门。风控相关的很多需求会收在他们这里，所以也可以把他们理解成风控中台。抖音和 TikTok 两边的风控中台需求都会提到他们这里，也就是说他们同时支持抖音和 TikTok 这两边的业务。4. 这份实习是日常还是暑期？HC 情况大概怎么样？转正 HC 的情况面试官自己也不太确定，目前应该还没有完全定下来，这块后续可以再和 HR 沟通。实习本身要求至少三个月，团队会更希望实习时间长一点，因为前期熟悉业务和环境本身就要花不少时间，太短的话不利于真正做出产出。5. 团队里做的内容主要是业务算法 / pipeline 搭建，还是也会有研究课题、论文产出的可能？整体还是更偏业务，不太支持以论文为导向的事情。但也不是说让实习生直接上来扛复杂业务指标。通常的做法是从复杂业务问题里，抽取出一个相对独立、偏技术、带一些探索性的点，让同学在这个方向上做出产出。所以更偏“从业务中抽技术问题来做”，而不是纯学术研究。6. 为什么字节有些组会支持论文或者研究产出，但你们组看起来不太支持？是岗位性质不一样吗？这个团队是要为业务结果负责的，所以判断标准首先是对业务有没有帮助。面试官比较直接地表达了他的看法：很多论文并不能真正解决业务问题，甚至会被视为“水论文”。他们并不是完全排斥研究，而是强调如果某个具体业务问题确实值得研究、也确实需要前沿技术去解决，那么可以研究；但最终目标仍然应该是服务业务、能落到线上，而不是为了论文本身去做。7. 这轮面试之后，我大概多久能知道结果？正常情况下大概三天之内会有结果，但最终还是要看后续 HR 推流程的节奏陪一张昨天下午在教室拍的一角夕阳

🐭🐭来找大佬们抱团喵

两个手撕，同时在线人数，一个是最大人数一个是时间点查询，我第一道有bug没调试出来，第二道讲思路面试官没听懂，寄了。看来我与腾讯有缘无分。