26校招字节LLM算法一面

1.实习介绍和讲论文讲实习，多模态大模型是否有接触?落地案例?2.介绍一下 Qwen布的这几版模型，都做了哪些贡献，包括数据、模型和训练3.DeepSeek 有了解吗， DeepSeek 用到的 MLA 注意力是怎么做的？它可以直接用 RoPE 吗？为什么不能，它做了哪些优化4.了解大模型的解码策略吗，简要说一说吧5.现有一个能力较弱的多模态模型和一个能力较强的文本模型（如 DeepSeek-R1），如何结合两者的能力来回答与多模态相关的问题？6.代码：199．二叉树的右视图7.反问环节

1.项目介绍2.Qwen- VL 的训练流程是怎样的3.讲一下大模型的训练流程，多模态大模型的视觉特征传递给 LLM 都有哪些方法4.ViT 一般怎么预训练5.多模态 RAG 介绍一下6.对于不同形状的图片或视频，位置编码怎么设计7.在 ResNet 或者 Transformer 中，残差连接的作用是什么，展开讲讲8.开放题：大模型在训练和推理的时候显存不够，有哪些优化方法9.代码：215．数组中的第 K 个最大元素

1.热门、分类、高分三个任务是互斥的吗?有没有做过测试，看热门和高分之间的gap，因为有些热门电影和高分电影有很大的重叠2.DeepFM中的FM和人工特征交又有什么区别?DeepFM在工业界很少用，因为特征交叉的数量太多了，应该怎么处理?a.模型比较老，现在工业界基本不用FM，因为特征交叉得到的特征太多了，一般都是魔改3.几个数据集的大小是多少?4.Gradnorm的原理是什么?工业界一般不这么用，因为这个gradnorm比较trick5.为什么使用RO-KMeans?因为RO-VAE会疯狂坍塌，坍塌现象很严重，所以只能使用RO-KMeans来做。可以看看其他生成sid的方式:a.比如第一层直接按照类别分类，之后再使用均衡KMeans6.为什么使用CLIP来实现多模态?选择CLIP的原因?手撕:Hot 46.全排列 [1,2,3]有多少种全排列?Hot 56.合并区间

1、实习介绍2、c++面向对象的封装继承多态3、你的项目中怎么用多态的4、c++多态的原理5、c++11之后的新特性6、介绍智能指针，你的项目中用的比较多的是哪几种7、智能指针是线程安全的吗，你的项目中怎么保证安全的8、lamda表达式，除了比较，你还在哪些场景中会用到过9、lamda表达式的传参有什么捕获方式，你的项目中用了哪些10、左值引用和右值引用的区别11、移动语义平常有用过吗，实现原理是什么，如果类的移动构造delete掉，move会怎么样12、你平常写一个类会给他定义移动构造吗13、标准库容器介绍14、这些容器是线程安全的吗，你平常怎么保证安全的15、线程同步的方式你用过哪些16、lock_guard和unique_lock的区别17、信号量具体是怎么实现同步的，和锁有什么区别18、原子变量在项目中是怎么用的，原理是什么，和锁有什么区别，为什么不用锁而是用原子变量19、future了解过吗20、自己实现过线程池吗21、进程间通信的方式有哪些，mmap的具体原理是什么，会有同步的问题吗（项目相关↓）22、讲实习项目的背景和具体工作，异步日志有遇到过乱序等问题吗，同事有反馈过什么问题吗，一个日志文件没有写满，重启文件之后会继续往这个文件里写吗，压缩文件用的什么方法，压缩成了什么文件23、介绍聊天项目，gRPC是怎么用的，同步调用还是异步调用，有考虑过超时的问题吗，项目有做过性能测试吗24、反问