淘天多模态大模型算法面经

1️⃣实习介绍2️⃣基本就是顺着简历全在问八股1.Transformer 的结构，有哪些可以学习的参数2.多头自注意力结构，矩阵个数3.ffn结构4.encoded decoder 区别5.一个 decoder block 由几个部分组成6.encoder 的输出，作为什么到 decoder7.为什么 decoder 更适合生成8.decided mask 在推理中有用吗9.Transformers 各个架构的改进（attention/ffn/位置编码）分为：10.GQA MHA MQA 区别11.swiGLU 的改进12.rope 在哪里加入3️⃣然后开始项目，其实也问很多八股：1.用的什么开源 dpo 数据2.为什么没用 qwen-33.全参数微调 7B 需要多少显存4.FP16/BF16 区别5.AdamW 显存计算6.介绍 Flash attention7.介绍 gradient checkpoint8.RougeL 计算方法9.代码：找数组第 k 大元素

多模态算法实习生2026.01.20，上午10:15，一面，线上，10多min，面试官没开摄像头 1.自我介绍 2.MindIE 现在的发展情况如何？ 在 910 服务器上，Mind IE 的性能比 VLLM 和 SGLang 等要快，都是适配该服务器的版本。 3.用 OneBench 测试时测吞吐了吗？ 没有做模型性能压测，只做了精度测试。 4.为什么选择这三个数据集做测试？ 因为是用中文数据微调，所以选中文数据集，LOGI 是中文逻辑推理数据集，MUSR 是中文意图识别数据集，还有一个综合类中文通用数据集，从不同角度对比能看出性能差异。 5.Qwen3 的 8B 有 thinking 能力...

是杭州一家初创公司，人员学历背景挺高的，海归或者名校，我还在想难道是把我学历看成南洋理工了？他们需要交叉复合型人才，所以笔试题有五个，前端题，后端题，python，爬虫，大模型算法。虽然我投的是java后端，不过人家也说了尽可能多的完成，所以我就只搞了前后端的题，具体题目如图所示。第一次笔试，跟想象中的不太一样。不过感觉这家公司挺包容，开放的，笔试是开放做的，给你一个飞书文档，什么时候做完了什么时候发邮件，不限制时间，不限制做题方法。

文心一言 大模型算法实习生2026.01.15，上午11:00，一面，线上，1h左右，只有自己开了摄像头，面试官没开面试官首先介绍了自己团队的工作，是百度文心团队旗下专注于代码大模型的相关团队，核心工作涉及模型的预训练，也包含后续的后训练工作，同时会进行数据策略的优化，开展数据分析等相关工作。面试时录音了，以下是语音转文字后的简要结果：1.自我介绍2.拷打简历3.你现在在北邮这边读书时，导师这边没有什么项目吗？你这个实习是在研究生阶段去实习的是吗？（实习是本科大四阶段刚结束的，目前处于研0阶段，今年九月读研一，导师这边做 AIGC 文本检测相关项目）4.请讲一讲你那段实习中数据分析系统项目的背...