1.八股：多头注意力的作用是什么？头数越多越好吗？2.八股：多头注意力机制的计算复杂度是多少？3.八股：推理时如何加速 LLM？你知道哪些方法（如 vLLM、量化、KV cache）？4.项目：你提到用 GRPO 而非 DPO，请对比两者损失函数形式，并解释 GRPO 在训练稳定性上的优势。5.项目：在构建偏好数据时，你采用了聚类方法筛选高质量样本，为什么没选 KMeans？考虑了哪些语义或多样性因素？6.项目：在构造偏好数据时，你是用同一个 prompt 采样多个 response 吗？怎么保证多样性？7.项目：你的奖励函数是如何设计的？logprobs 在一致性奖励中起什么作用？如何量化“语义一致性”？8.项目：GRPO 训练时 KL 散度控制得怎么样？如果 KL 太大，你会怎么调？9.项目：LLM重复生成内容的问题如何缓解？10.代码题：LeetCode 239. 滑动窗口最大值

1.你这次找实习，想找大概做什么事情的实习？2.大模型在推荐系统中的应用有什么结合的方向？3.大模型在推荐系统落地能提供什么样的能力？4.大模型可以解决推荐系统中的什么问题？5.假设你入职实习，想做的第一个项目是什么？具体该怎么落地？6.这个项目每一步怎么做？需要哪些工具？请求什么大模型？输入和输出分别是什么？推荐系统怎么用？7.微调模型需要哪些标注数据？是自己标还是其他方式？微调过程要多久？准备工作有哪些？不微调行不行？8.怎么把视频输入给大模型？具体操作步骤是什么？9.视频帧采样谁来做？怎么做？10.手撕：二叉树的层序遍历

1.项目介绍2.介绍一下实习工作3.数据集使用的是公开数据集还在有自己构造数据集4.数据集包含哪些任务？5.分别讲一下 Dense 模型和 MoE 模型以及二者的区别6.讲一下MoE的 路由机制是如何做的7.训练完验证使用的是什么数据集8.做这个工作的过程中的难点在哪9.如何做的 SFT10.介绍一下 PPO（近端策略优化）11.讲一下 RAG 项目12.分类任务常用的评测指标有哪些13.讲一下 LoRA 微调的原理14.A、B 矩阵怎么初始化的15.LoRA 微调秩设置的是多少16.算法题：三数之和

1.讲解特征优化，有哪些难点，怎么评估2.怎么做特征处理3.介绍K-means量化，怎么做的多尺度4.怎么用的Parato优化，线上base比的谁5.介绍RQVAE，讲讲SID怎么用的6.RQVAE如何调参7.讲讲自己的三篇论文8.讲讲AUC（计算和物理意义），手撕AUC

1.问项目的数据集构建和细节2.分类模型微调前如果比较确定，但sft后可能会把概率输出变得不那么确定了，你觉得是什么导致的3.讲一讲奖励模型的训练，奖励模型的奖励是怎么来的4.是否了解过强化学习，讲一讲on-policy和off-policy不同和优缺点5.为什么sft和rl在post-train中可能需要轮着来最后是代码手撕：零钱兑换

1.八股：Transformer底层原理，为啥能替代RNN2.八股：大模型预测token的损失是怎么算的？有哪几种常见的损失函数？3.项目：看你做过RAG，讲讲从数据清洗到检索服务上线这整个链路是怎么搭的，怎么做chunk切分的4.项目：你觉得当前RAG的最大瓶颈在哪？你做过哪些改进来提升Recall5.项目：传统RAG有什么痛点；介绍GraphRAG，GraphRAG的难点是什么；GraphRAG如何应对增量场景6.项目：RAG中知识库搭建，对知识库的文件文档进行动态增量更新，怎么来避免新旧文档的文单的分布不一致导致的这种检索偏差问题7.项目：RAG怎么评估，RAG评估体系中最重要的是什么8.项目：常见的量化方式有哪些，QLoRA为什么选的是NF4和FP16这组组合，而不是别的组合？你能说说NF4的分布拟合逻辑吗9.项目：模型部署相关，说下模型部署的参数量和需求硬件之间的关系10.项目：部署一个MOE架构的千分三的235b的一个模型，他所需要的算力大概是多少？11.代码题：lc54. 螺旋矩阵

1.实习介绍2.实习有转正吗？3.材料项目介绍，有流程化吗4.前后端的实现5.如何做的模型评测6.训练数据和测试数据是怎么构造的7.有遇到训练过程中的bad case数据吗8.如果单卡放不下模型如何做模型并行9.有了解其他参数微调方式吗？10.GRPO算法了解吗，优势如何计算11.transformer的解码器12.解码器的输出形状，如何做自回归过程13.进程和线程的区别，线城池有了解吗14.c++和Python中的深拷贝和浅拷贝的区别15.倾向做AI应用开发还是支持大模型部门16.手撕:删除链表倒数第二个节点反问:组里大模型开发主要是什么方向（支持大模型部门）组里多少人（7，8个）

1. 实习介绍2. Wide&Deep3. DeepFM模型原理4. 其他的特征交叉模型了解吗5. LHUC的原理，有什么作用呢6. 项目拷打7. 手撕：N皇后8. 反问

1. 实习介绍2. 20分钟手撕三道算法题1. 手撕1:最长递增子序列的变形2. 手撕2:公共祖先3. 手撕3:快速排序3. 项目拷打4. 反问环节

40min 无手撕+纯项目1.实习介绍2. 详细吟唱两个项目，一个是RAG系统，一个是做 lora 微调的3. 针对第一个项目提问，能否实现个性化推荐，有什么策略？这里我说的是长短期记忆的管理4. 两个项目有什么优化的方向，一直吟唱5. 面试官介绍组内业务顺带介绍一下加班情况6. 如果给offer，实习大概多长时间，多久能够入职7. 反问：对实习生有什么期待？

1.力扣：搜索旋转排序数组2.ppo损失函数，解释，各部分是什么，ratio、advantage怎么理解，大模型advantage怎么计算，returns是什么3.Adam4.mha、mqa、gqa、mla5.交叉熵损失手撕6.位置编码有哪些，rope7.mse损失，gae损失，大模型里面怎么算8.大模型里面的ppo，returns是什么9.vit位置编码、二维位置编码、相对位置编码、多模态位置编码

项目 介绍其中一段实习，没问啥问题其他1. 实习都是什么原因离职2. 你觉得大模型和之前AI比本质解决什么问题，大家期待如此高3. 自己用过哪些AI类的产品，coding类的有用吗4. cursor类的AI产品能解决什么问题5. 有驾照吗，对车有什么了解吗6. 能提前来实习吗7. 对base地有哪些要求8. 描述一下你想去的公司是什么样的反问1. 业务聚焦点2. 重头戏是toB还是toC

上海卡斯柯软件开发怎么样  网上风评不太统一啊

bg本2硕9.base北京开了30*15，算什么水平？反正我知道没节子给的多