BIGO大模型应用算法一面-实习面经

继续来分享下最近的面经~欢迎友好讨论，信息共享1.实习拷打2.Batchsize 训练长度，梯度累计怎么设定?3.这个框架的位置编码?4.训练过程损失函数怎么下降?有没有遇到梯度消失和梯度爆炸这种问题?5.除了大模型有没有做过其他训练?看你本科也不是做的这个，有没有深度学习方面的训练?6.Lora是自己搭的吗还是用的开源模型框架?Lora从o实现是指什么?7.介绍一下dpo算法，dpo这里训练数据怎么来的?Dpo训练框架?8.Sft模型和dpo之后模型的对比?Dpo和sft顺序?9.Dpo训练过程中是否有不稳定?损失函数怎么表现?10.有没有特定测试集去对比dpo之后比sft好?以及为什么12.数据生成过程中遇见噪声怎么清洗过滤低质量数据?

如题，实话实说在我的开发中，回答很可能是“加上异常处理，设置最大重试次数，重试三次如果仍然失败就返回错误信息给用户。”你就说有没有毛病吧……这个思路虽然是工程的基本功，但它却是传统软件的错误处理模式。把这个模式直接搬到Agent上，虽然解决了部分简单的失败，但远远不够。零、为什么Agent的失败不同于传统软件？传统软件的失败是显性的，通常表现为接口超时、参数校验不通过或数据库连接失败等，这些都会抛出明确的异常，让你清楚地知道问题在哪里。而Agent系统的失败则是隐性的，尤其是像基于大语言模型（LLM）的系统。例如，LLM可能返回了一个格式正确、没有报错的JSON，但它可能选错了工具、传错了参数...

发一下问题给大家参考，攒攒人品！1.项目拷打2.sft训到什么程度用rl3.sft的损失和预训练的损失有什么区别。4.构造sft专家轨迹之后会做什么操作5.grpo（ppo）和dpo的优缺点6.grpo的rm出现reward hacking有什么解决方法7.ppo和grpo的区别8.思维链冗余怎么处理，每个逻辑打是否冗余的标签？会出现什么问题9.滑动窗口最大化

最近不少学前端的都有提到说，发现今年秋招前端的竞争已经不止卷八股和项目了——“AI 全栈”这个词开始出现在前端 JD 里。很多岗位可能还会明确写“了解大模型应用、Agent 开发优先”，哪怕你是投前端实习。于是就出现了一个尴尬的现状：传统前端路线还在让你慢慢啃 HTML/CSS/JS，做完一个后台管理系统就去面试。但另一边，企业已经开始期待你能聊一聊 Agent、流式响应、工具调用。很多人其实也不是不想学，就是不知道怎么把 AI 项目和前端实习路线揉在一起，又不影响基础学习节奏。所以我趁着放假梳理了一份 30 天“传统前端 + AI Agent”双项目冲刺路线，给秋招前想刷一段前端实习的同学参...