百度 大模型算法实习 二面

📍面试公司：百度🕐面试时间：0828💻面试岗位：自然语言算法实习❓面试问题：1、自我介绍2、项目介绍3、论文介绍4、算法题：两数之和5、反问🙌面试感想：没八股算法题两数之和是没想到的，面试还真有可能会出这个题，爱了爱了。部门好像是做什么视频文本创作的，应该是业务部门。四战百度了，面完1分钟约二面，效率可以。别人秋招我还在面实习，也是小众路线了，秋招是一个面试没有，简历露头就秒。

1. 在LLM推理里，我们经常听到一个词叫prefill，能解释一下它是什么意思吗？2. 我们来聊聊Transformer的基础吧。能先介绍一下Softmax函数吗？然后整体讲讲Transformer模型，特别是里面的QKV（Query, Key, Value）机制，能详细说说这个过程吗？3. Transformer的训练复杂度还挺高的，尤其是在处理长序列时。你了解哪些工作是致力于降低它训练时间复杂度的？4. 长上下文（long context）是现在LLM的一个研究热点，你都知道有哪些方法可以解决或者缓解长下文问题？5. GQA（Grouped-Query Attention）的原理是什么？...

8/18 一面 （参考之前的帖子）8/21 二面 挂自我介绍 3min问项目 15min：问的不是很深，就介绍一下针对什么问题采用什么方法达到什么效果，算法的原理部分问了相对多一些code：归并排序个人感觉被kpi了，二面的面试官不是很积极，和一面的体验完全不一样，全程冷脸爱答不理。

旷视科技 MegEagle计划 大模型 一面面经整体56分钟，算是提前批，岗位是视觉/语言大模型算法研究员 1.自我介绍 2.拷打实习项目，先介绍了一下实习的业务背景，我的是一个智能npc的，我讲了模型训练、数据处理、调优探索几个方面，他问我让模型更加遵循人设是怎么做的、数据分布是怎么调的、评估是怎么做的，然后问我deepspeed原理、vllm原理、kvcache原理 3.拷打第一个项目，我的是一个rag的项目，我先整体讲了一下，然后他问我向量模型选的哪个、为什么不选别的、向量数据库选的哪个、还知道哪些、模型幻觉的解决有什么方法、模型长上下文解决的方法，我各答了我的理解4.拷打论文项目，我把...