日常实习-阿里高德大模型算法一面

1️⃣数据准备很多人上来就想着搭 Milvus 或 FAISS ,但根本没搞清楚自己要检索的是什么。RAG 的灵魂在知识库。而知识库的质量，取决于数据处理的精细程度。2️⃣检索召回很多人以为用个 embedding 模型就完事了。但 embedding 模型之间差距极大。在实际项目中，我们踩过很多坑：同样一份知识库，换不同 embedding 模型， RAG 的命中率能差出30%以上。3️⃣Query 理解：很多人以为检索的 query 就是用户的问题本身。但在实际场景里，这一步其实最"坑"。🍊那到底哪一部分最难搞？最难的是让整个系统"协同"起来。这需要你既懂算法，又懂工程。需要同时考虑：1.文档更新频率（知识库维护）2.向量召回性能（索引优化）3.Prompt 格式（生成阶段控制）4.模型响应速度（ API 并发与缓存）换句话说， RAG 是所有"大模型项目"中最能体现"算法工程师功底"的模块。它要求你既能设计算法，又能搭系统。📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

1️⃣实习介绍2️⃣代码题求一个整数的平方根，精度0.01场景题：根据会话 id 和轮次 id，生成 history3️⃣拷打项目1.dpo 数据怎么建的，数据的格式2.dpo 损失函数介绍，为什么用减法3.β的作用，项目中你设的多大4.lora rank 设的多大 alpha 有什么作用5.项目中遇到最困难的事6.大模型精度不高怎么提升

1.GAN和Transformer 这两个分别在你的项目里承担了哪些作用？这两个是怎么帮助你推动模型进行图像或者视频重建并提升性能？2.你的GAN以及生成器和判别器主要负责什么工作的，讲一下他们的核心作用以及怎么协同的3.你做项目的时候是先用的生成器还是判别器，为什么要这样设计呢？4.你的轻量化参差模块在优化Swin transformer发挥的什么作用？5.计算机视觉中多尺度融合是什么含义6.为什么深层次神经网络中提取的图像特征被称为”语义特征”？怎么处理图片信息的，多尺度特征的提取怎么提升的模型性能，你用了什么技术和算法框架去实现的7.在你处理模型时用的什么注意力机制，在大模型图像处理项目时这些模块在整体架构分别承担了什么职责？8.你在里面用的对抗损失函数怎么设计的，怎么结合别的模块使用的9.你用的WGAN，他和原始的GAN是怎么改进梯度问题的，以及损失函数中梯度惩罚项怎么实现的Lipschitz约束10.你说一下逻辑回归他的原理还有适用场景以及如何实现的11.在逻辑回归中，我们一般用交叉墒损失函数，你可以说一下为什么吗？12.你结合一下逻辑回归二分类任务，说一下为什么这种情况经常使用交叉墒损失而不是均方误差损失呢？13.L1L2正则化在机器学习模型中的作用是什么(这里要求写数学公式)14.请详细介绍一下PPO这个在强化学习中的策略优化算法，主要思路和流程是什么15.在PPO的算法损失函数中，有两个操作，一个是clip，还有一个是min，请你说一下这两个操作的方式作用还有他们在PPO中的意义。16.在PPO算法的损失函数设计中，cilp的操作已经能够限制策略更新的幅度确保稳定性，为什么还需要在损失计算中取原始的目标和clip的较小值？如果只保留clip部分，不取较小值会有什么问题？

bg双非本西电硕投了20天没啥动静，有无大佬帮忙看一下简历给个建议，有偿也行😢项目是王二的rag和改良的点评。。