字节校招一面

一面/二面 压力都不大，只有一些八股值得参考：1.交叉熵损失的物理含义是什么？2.KL散度的本质是什么？3.用什么loss比较多？我说一般就mse，又通过focal loss，让我接着介绍，如何平衡正负样本。三面，我以为轻松了结果是最硬核的技术面，问了一堆八股，并且要求现写公式，不到最后都不能放松警惕啊：1.讲讲python的dict底层是怎么实现的？hash实现2.如何解决hash碰撞？说了个线性探测（其他真不记得了）3.C++的STL还熟悉吗？完全不会，3年没写了。4.好吧那不问了，flash-attention了解吗，讲讲原理？5.kv cache了解吗？6.Q要cache吗？7.讲讲常见的标准化，LayerNorm，RMSNorm？8.实际应用你觉得什么区别吗，现在哪个用的多？9.问了这么多才开始讲项目，等我讲完面试官直接总结，你的项目是在高维特征添加了一些low-level的视觉信息做work，现在有个开放的问题想问你：大模型的语料是有限的，但是搜推链路上token可能是无限的，比如可能一个蛋糕，每个用户的每一次蛋糕购买记录都是独立的，蛋糕1，2...100，你要如何解决？10.似乎我没理解对，追问不对不是这个意思，重新问：大模型的数据是非常多的，但是搜推的数据可能很高维度而且不多，比如用户看到图->点击右上角->再点到推荐购买->.......，整个特征链路非常长，这种数据量不像大模型训有非常丰富的语料，你如何解决这个训练问题？

一面 1.挑一个项目介绍2.transformer计算的时间复杂度和空间复杂度，deepseek对transformer主要做了哪些改进?3.为什么要在推荐系统中引入rqvae?4.如何解决坍缩问题?5.对rankmixer了解吗?介绍一下?6.详细介绍一下Moe?优缺点各自是啥?7.训练模型如果loss不稳定，如何解决?8.了解lora 吗?9.代码:手撕mha10.反问:业务二面1.项目介绍2.bert的预训练任务是什么?3.bn和In的区别?在什么场景使用?4.如果qk变成同一个矩阵会有影响吗?如果一定要变成同一个矩阵，如何解决影响?5.介绍一下帕累托°?6.如何挑选特征?7.你对推荐算法中特征工程的心得有哪些?8.代码:实现交叉熵9.反问:组内有哪些方向

一面 1.sft数据长什么样，困难case是什么样？2.有没有考虑做数据增广，有哪些数据增广的方式？3.query不规范，导致召回难度大，如何解决？4.如果原始训练数据当中存在大量噪声，如何去除这些噪声对模型的影响？5.手撕：爬楼梯二面：1.RAG系统的架构，每一个模块的作用，文本截断的长度是多少？2.除了向量召回和关键词召回，还有哪些召回方式，了不了解全文召回，如何做的？3.向量召回，关键词召回，实体召回等不同召回链路召回的结果如何合并，哪一个优先级更高？4.query改写之后改写成什么形式去召回？5.DPO的原理，损失函数如何计算？6.GRPO的原理，损失函数如何计算？7.在linux系统当中查看端口是否被占用的命令行是什么？8.让进程在后台运行的命令行是什么？9.如何快速对一个list去重，如果list的长度非常长（且不改变数据格式）10.手撕：最长回文子串

实习拷打30min（一个langchain4j+agent项目，被拷打完了，谁有这方面的面试题）1. 问题：如何防止超买超卖和用户重复购买？2. 问题：Redis的持久化原理（AOF和RDB）是什么？3. 问题：Elasticsearch（ES）的倒排索引底层实现是什么？4. 问题：B+树索引的结构和优势是什么？5. 问题：TCP的三次握手和四次挥手逻辑是什么？6.手撕题：二叉树路径和