B站大模型二面

常见的业务题架构理解篇Q1 Transformer模型主要由哪两部分组成？Q2 自注意力机制中的Q、K、V矩阵是什么缩写？Q3 多头注意力中"头"（head）指的是什么？Q4 位置编码的作用是什么？Q5 Encoder和Decoder结构的主要区别？Q6 为什么要使用残差连接（Residual Connection）？基础组件篇Q7 前馈神经网络（FFN）有多少层？Q8 Layer Normalization放在哪个位置？Q9 激活函数ReLU和GeLU的主要区别？Q10 词嵌入（Word Embedding）的维度代表什么？Q11 注意力掩码（Attention Mask）的作用是什么？Q12 为什么要使用dropout技术？训练基础篇Q13 预训练（Pre-training）的目标是什么？Q14 什么是语言模型中的"自回归生成"？Q15 数据并行的基本实现方式？Q16 什么是训练中的批量大小（Batch Size）？Q17 学习率（Learning Rate）过大会导致什么问题？Q18 训练损失（Training Loss）下降说明什么？模型应用篇Q19 什么是文本生成中的贪心解码（Greedy Decoding）？Q20 温度参数（Temperature）如何影响生成结果？Q21 模型推理时为什么要限制生成长度？基础概念篇Q25 参数量（Parameters）和计算量（FLOPs）的区别？Q26 什么是生成式AI（Generative AI）？Q27 预训练模型和传统NLP模型的核心区别？Q28 为什么大模型需要海量训练数据？Q29 什么是过拟合（Overfitting）现象？Q30 模型推理（Inference）是指什么过程？工程实践篇Q31 GPU显存不足时常见的解决方法？Q32 模型权重文件（Checkpoint）包含哪些内容？评估基础篇Q37 如何评估语言模型的生成质量？Q38 困惑度（Perplexity）指标的计算原理？

实习如何偷产出：聪明实习生的职场生存术 友友们，大家好，我是程序员小白条，今天我来围绕实习如何偷产出这个问题进行介绍，实习大多数都是打杂，可能1个月什么活都不给你，概率都很大，因为可能招你的时候需求很多，但等你进来，已经没什么需求了，而且给实习生的需求不能很难，因为也无法完整，所以综合考虑各个因素实习生很难拿到核心开发。 正文 实习期间最大的误区是等待别人教你。真正聪明的实习生都懂得主动"偷"产出，这里的"偷"不是偷懒，而是用巧妙的方式获取更多成长机会和价值。 如何偷学核心业务？ 主动蹭会议：不要等邀请，直接询问能否旁听项目会议。会后整理笔记发给ment...

商汤多模态实习面经一面(已OC)1. 项目+实习经历2. 阐述一下最熟悉的VL模型3. 根据2.提的模型进行深挖，包括网络设计，注意力计算的方式等4. pre-Norm 和 post-Norm 差别5. attention 计算复杂度6. flash attention计算复杂度7. 大模型的训练流程8. 手撕: torch 手写softmax 并基于softmax的分布写出采样函数面试官人很好很好!!!!!很轻松，很和谐

牛友们！！ 今天必须聊一个实习期最扎心的问题👇  “带教根本不给我正经活干，全是端茶倒水订外卖… 我哪来的产出写进简历啊？！”  别慌！ 你以为只有参与大项目才算“产出”？ 错！ 真正会实习的人，早就学会了——  “偷”产出！不是偷懒，是把小事变大事的能力✨  📌什么叫“偷产出”？ 👉 就是把别人眼里的“杂事”，包装成你简历上的“成果”。 🧠【举个例子你就懂了👇】 ❌ 普通实习生写简历：  “协助整理会议纪要、打印资料、帮同事订餐。”  ✅ 会“偷产出”的实习生写：  “独立负责团队周会流程管理，优化会议记录模板提升信息同步效率30%，支持跨部门协作落地3个项目需求。”  你看，事儿...