字节 大模型算法 一二三面 面经

1️⃣抖音一面1、聊项目。2、AUC的两种公式是？你能证明这两种等价的吗？3、BERT-CRF中，为什么要加CRF？好处是？4、self-attention为什么要用QKV三个矩阵，不用有什么问题？有没有哪个模型的Q和K矩阵是一样的？5、reinforce属于on-policy还是off-policy？为什么？6、reinforce带上baseline好处是？reinforce的loss写一下？7、策略梯度会推导吗？简单写一下？8、代码题（代码题一般别着急写，先跟面试官说下思路，确定了再写）：lc 46，全排列（lc表示leetcode，下同）。lc 73，矩阵置0。2️⃣抖音二面1、介绍项目。2、知识蒸馏有哪几种？你觉得哪种效果最好？3、nlp的数据增强方法，主要有哪几种？每一种举个例子？4、分类的损失函数为什么是交叉熵而不是mse？5、BERT对输入文本的长度有什么限制，为什么要限制长度呢？6、BigBird里面有哪几种注意力机制？相比原始transformer的self-attention的优势？7、场景题：如何根据拼多多的商品数量，估计淘宝的商品数量？8、给出emb_size, max_len, vocab_size, ff_inner_size，num_heads, 12层，求BERT参数量。9、代码题：n皇后问题。3️⃣抖音三面‍1、简单聊项目。2、CRF和HMM区别？CRF为什么比HMM效果好？3、如果BERT词表很大，比如vocab_size达到几百万，怎么办？4、快速手写一些transformer的mha（多头注意力），伪代码意思一下就行。5、为什么对比学习中，temperature很小，而知识蒸馏的temperature比较大？6、你觉得在抖音买东西，和淘宝、拼多多他们的区别是？（我没在抖音买过，就只能现场编。）7、你最近看到过哪些paper？简单介绍下？8、你觉得自己有那些优缺点？平时喜欢怎么缓解压力？📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

1、尝试分辨大厂低门槛岗位，如字节KA/PDD招商运营/京东商家运营（外卖业务）当你还没有明确投递意向的时候，这些岗位大概率会让你的真人面试。 2、关于秋招职业规划，我的建议是要平衡“我想做”和“我能做”。前者是基于你的意愿度，后者则要考量秋招各岗位的投递门槛和要求。 3、7月的提前批更适合背景好的同学，其他同学不要提前预支焦虑🙅🏻 秋招正常节奏是：8月开放互联网/科技/制造业/品牌方，9月外企，国央企则战线拉的更长，8-11月开放的都有（碎碎念一下，跟上开放节奏很重要‼️） 4、网申虽然还没正式开放，但给一个数据供参考：建议海投到150-200家（根据背景上下浮动）记住Fion...

✅小红书商业化部门 NLP-内容理解 4面1️⃣第一面1、n时间复杂度找出数组第K大的值说出思路了 用快排思想，不过没写出来，不过面试官还行 没写出来也让我过了然后问的比较古老的一些Nlp细节2、比如问你为啥分类任务用交叉熵，不用MSE?直接反向传播原理公式，如果用MSE 你最后可能会出现梯度消失的现象还问了LN BN的细节准备的比较到位，所以都答出来了2️⃣第二面问的我好像是概率题，没写代码1、你一个硬币，均值多少次，可以丢出正反面问项目3️⃣第三面应该是答的最好的了，项目答的应该让面试官很满意，然后代码题的话1、第一个 就是 一个矩阵，从左往右 升，从上往下升，n时间复杂度，找出target我觉得太简单了，让面试官再出了一个2、又给了一道：动态规划，最长递增子序列✅知乎：AI中台 三面1️⃣第一面1、聊项目 模型细节，attention的作用，为啥要用FFN，还有LN中间说到一个点，我说为啥要在LN重新训练两个参数，我说是不然影响性能，但是其实应该是影响泛化能力2、代码题目：找出字符串的最长回文子串2️⃣第二面要我写attention的伪代码我写了一下 不过其实还要加上Mask 忘记加了还问了我 会用rebase操作吗，我说不会。问了交叉熵的细节，到底对预测对的产生loss 还是预测错的产生作用。代码题目不太记得3️⃣第三面项目负责人，项目聊的很开心代码题没写出来，不过也让我过了1、代码题目：给我一个字符串 让我判断是不是一个数学算式阿里 高德 ✅1️⃣第一面面试官挺直接的，问了项目，然后问我只做了分类是吗，我说的是的，他说你直说就是了。。。 尴尬1、概率题 给我一个函数 可以等概率生成0-5随机数字 f5() 要我依靠这个 生成一个f7()2、给我一个生成器 随机生成01 要我等概率生成一个生成器 做一个二分判别2️⃣第二面1、P9大佬，问到我一个问题，如果你需要100W数据 你怎么去跟你上司申请你要100W数据的标注资源。或者说 你现在手里有10W标注数据，你觉得你还需要再继续增加标注数据吗我觉得这个问题是我没想到的，因为我这边业务线训练数据都是比较充足2、代码题 给你一个数组，给我n时间复杂度 生成一个数组 这个数组的每个位置的字 都等于原先数组其他位置的乘积。 思路：空间换时间🍊如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

2.6投的简历，2.7就有电话来约面试，2.8就面试，进程推进还是蛮快的，应该是缺人，所以想去蔚来base上海的，可以去冲冲！分享一下一面面经：1.  自我介绍2. 了解工作时长，一周工作几天，之后的时间规划3. 为什么往测试开发方向发展，你对于测试的理解是什么？4. 测试是一项什么样的工作？5. 你发现缺陷后会继续跟踪缺陷的解决方案吗？6.关于缺陷本身是怎么解决的？缺陷解决的流程理解7. 介绍上一份实习经历测试的对象，需要满足什么样的用户需求8.在这个实习经历中担任的角色，负责跟踪新需求还是做回归测试比较多9. 测试用例数量很多，有疑问为什么有这么多用例和缺陷10. 测试用例是自己写的吗，还...