字节实习 大模型算法 面经分享

攒攒人品！有面试过同岗的朋友欢迎评论区交流1.rope应该加在哪里2.kvcache怎么加3.dropout在哪4.mask怎么加5.实验室项目怎么做的，还可以和什么baseline对比6.业务场景题:针对业务需求怎么构建数据集7.手撕mha

1. C++中深拷贝和浅拷贝的区别是什么？答案：浅拷贝只复制对象的成员变量值，如果成员是指针，只复制指针的地址。这会导致多个对象的指针指向同一块内存，当一个对象析构释放内存后，其他对象的指针就变成了悬空指针，再次访问会导致程序崩溃。深拷贝不仅复制成员变量的值，还会为指针成员重新分配内存并复制内容。每个对象拥有独立的内存空间，互不影响。实现深拷贝需要自定义拷贝构造函数和赋值运算符。什么时候必须使用深拷贝：类中包含指针成员、动态分配的资源（如文件句柄、网络连接）、需要管理资源生命周期的情况。根据C++的三五法则，如果需要自定义析构函数、拷贝构造函数、拷贝赋值运算符中的任何一个，通常需要自定义全部三...

给我面没招了，感觉自己好菜、面试很难，还是要多多练习1.为什么要使用HSTU,它相较于其他推荐模型有什么优势?2. 介绍一下双塔模型？3. 训练双塔模型时，怎么处理正负样本不均衡。欠采样的方法有哪些？4. 介绍一下常用于推荐的序列模型？5. Transfomer能用来作为序列模型吗？ 但是为什么transfomer不常用于精排呢？6. Transformer和din的参数差异，计算复杂度的区别？7. 介绍一下传统序列模型和transformer的区别？8. Transformer用的归一化函数？为什么语言模型不能使用batch norm？Batch norm和Layer norm的区别是什么？9.有哪些位置编码，各有什么优劣，rope相较于正余弦的优势在哪里，都不需要参数?10.讲一下rope的原理，和公式，rope为什么广泛应用于大模型，但在推荐场景很少用,为什么?11.为什么你使用的HSTU中要加入高效注意力机制?还了解其他的高效注意力机制吗?12.延长序列长度就一定会有效果上的提升吗?最终效果提升了多少?13. 为什么deepseekv3，训练的很快，推理的很快？它用了怎样的量化？MOE，并行手法？14. 还有哪些优化的注意力机制方法，它们的原理是什么？15. 还有哪些加速模型训练的方法？16. 为什么要优化KV-cache？

OPPO一面实习介绍，上色的损失函数，项目介绍，数据集，损失函数，有没有做轻量化？边缘模糊怎么办？会不会C++，落地部署传统的去噪方法，BM3D，WNNM脸上的痣怎么用传统方法识别出来？数学理论对学深度学习有什么优势？GAN的应用场景和优缺点OPPO二面项目(真实图像去噪怎么做，是否了解高光谱图像的噪声来源机理)，实习(做了什么改进)定了高目标实现了的事情，发不了顶刊的原因，拿了什么offer，职业规划，工作强度怎么看待？C和C++熟练嘛？工程部署落地出问题怎么办？算法部署到手机，封装成SDK，出现各种问题怎么办？OPPO26OPPO27届寻梦计划暑期实习3.6启动啦，26届补招也进行中tip...