这个大模型技术支持是干什么的

淘宝程序出bug了，签到不了，找程序员修复一下，否则我就只能去用拼多多了。（网址：https://m.tb.cn/h.7ycukw8）

很多人问我如何准备大模型的面试，分享下我的经验，针对两种情况：1. 有大模型实习2. 无大模型实习针对无大模型实习的情况，我建议先找一段中厂实习为主，比如 zhipu、Minimax （当然有大厂进大厂）这些，相对容易进，尽量积累大模型实习经历。针对有大模型实习的情况，复习内容为：1. 常规八股（transformer、bert 等）2. 最新八股（GQA 等）3. 技术报告（一定要自己看原PDF，目前推荐 DeepSeekV3, R1, kimi1.5, Minimax-01, Qwen2.5, Qwen2.5-VL）4. 手撕 Leetcode：Hot1005. 手撕模型，比如 MHA 这些首先是常规八股和最新八股，这一部分可以自己找找网上资料，整理好的，背。然后是技术报告，目前推荐的内容有：1. DeepSeekV3：必读2. DeepSeekR1：必读3. Kimi1.5：选读4. Minimax-01：选读，据我所知最长上下文模型（外推到 4M，不过好像被 LLama4 的 10M 超过了）5. Qwen2.5：必读6. LLama3.1：必读7. Qwen2.5-VL（如果简历有多模态内容）：选读重点关注：1. 阶段训练（预训练几段、Post-training 几段？上下文用了多少？数据配比是什么？）2. 模型创新点（MHA 创新是什么？作用是什么？）3. 上下文优化创新点（一般是优化显存和阶段训练）4. 多模态优化创新点（简历有多模态内容）5. 几个模型不同之处（比如 Qwen2 和 Qwen2.5 的不同之处）最后是手撕，Leetcode 只刷 Hot100 够了，模型手撕建议关注（我目前会的）：1. MHA2. LayerNorm3. Transformer Encoder (MHA+LayerNorm+FFN)4. PE（绝对位置编码）5. ROPE6. SwiGLU7. RmsNorm每次面试前快速过一遍就 ok 了。

2023年，开源模型刚刚多起来的时候，上手AI做的最多的事情就是微调，那会儿我有一张3090，就足够微调GLM2-7B或者Llama2-8B的模型了，网上还有很多的教程，教你怎么找数据集、怎么构建数据集，怎么微调大模型。仿佛只要学会了微调，我就一脚踏进了大模型工程师的门槛。包括到现在，很多客户一开始就说：“我们要微调一个自己的模型，网上都这样说的。”然后14B也好，32B也好，拉一堆行业数据往里塞，觉得这样才算构建核心壁垒。但连续了解几个项目之后，我现在的结论很清晰：对大多数做AI应用的团队来说，微调就是个坑。甚至面试的时候也会出现这个问题：为什么不建议微调？到现在网上还有很多新发的教程，一张...

欢迎友好讨论，信息共享1. 实习拷打2. deepFM介绍一下，deep侧和FM侧的区别，特征数量是一样的吗？3. 多任务模型的发展流程了解吗？介绍一下4. 召回了解吗，usercf召回的时候对应的user的向量怎么生成5. 优化器了解吗，介绍下adam，adam和sgd的优缺点6. 怎么判断模型过拟合7. 手撕代码：快速排序