1.项目介绍，问实习和论文2.目前大模型模型结构都有哪些3.什么情况用Bert模型，什么情况用LLaMA、ChatGLM类大模型?4.prefix LM 和 causal LM、encoder-decoder 区别及各自有什么优缺点5.刚刚提到 MLA ，那 MLA 是怎么对 KV Cache 做优化的6.说一说大模型后训练的流程7.Qwen是怎么做长度外推的8.在 PPO 中，如何防止模型在微调数据集以外的问题上泛化能力下降？如何防止模型收敛到单一类型的高奖励回答9.代码：25.K个一组翻转链表

讲一下实习里做了些什么，讲一下架构以及发展的流程大模型该如何选型怎么取舍，有了解过agent的开发嘛算法题：给一个数组，取出其中前k小个数（用的最大堆写的，刚开始还忘了PriorityQueue怎么拼的，在面试官提醒下改回来了）聊的挺开心的，许愿ochr微信通知已过，唉，这美团怎么这么好啊

1.实习介绍2.展开讲一下在百度实习的工作3.实习工作具体是如何做的？4.具体探索过程是怎样的？5.想法是如何逐步优化的？6.介绍一下你了解的其他基于 MoE 的模型架构7.如果基于 MoE 的模型在训练时负载均衡不好怎么办？8.讲一下负载均衡的概念9.如何解决负载均衡问题？10.讲一下 DPO、PPO、GRPO 的区别11.如果在训练 DPO 的过程中，正例和负例的 loss 都在下降，该如何解决？12.讲一下 RAG 项目的亮点13.如果召回的答案不是想要的，该怎么处理？14.算法题：求根节点到叶节点数字之和（LeetCode 129，非 Hot100）

我需要复盘，并且需要好好复习，但是我无法随时观看着每日导出的pdf文章，也无法通过手机在每一个我空闲时候进行学习，为了解决这个问题我开发了一个技术知识论坛，目前论坛支持聊天，文章观看，登录功能，具体图像如下所示，并且附带算法可视化以及技术点可视化功能，本人承诺，只要没人攻击网站，本人将不限期免费更新，后续完成开发所有功能后会进行代码开源现在支持两种登录观看方式1.网站登录:登录https://xiaowustudu.cn即可无限制观看，登录和注册免费且不作校验2.移动端目前也已经开发适配，有需要的牛友可以联系我获取，免费免费免费，没有广告没有广告没有广告