夸克大模型算法面经

timeline：9.30 一面，2小时后通知通过10.10 二面，第二天通知通过10.21 三面，2小时后通过10.22 hr面，电话十分钟问了下offer情况，然后走offer审批10.27 收到意向一面1. 算法题： 1. 312. 戳气球 2. 多头自注意力2. 八股： 1. transformer为什么要除以根号dk 2. pre norm和post norm分别适用于哪些场景？3. 实习相关 1. 为什么不用tranformer decoder做序列生成 2. 用户侧和广告侧用到了哪些特征？ 3. 如果考虑用户历史行为序列，如何加入做特征交叉 4. 如何做可导sample 5. 两...

1.你这个xx实习的项目能展开讲讲吗？你主要负责哪块？为什么是你来做这块？2.自动化评估体系这里能具体说说怎么评的吗？哪些维度3. 多维度自动化评估体系，那每一个维度是怎么做的？比如你说的关键词匹配和问答对，这个流程怎么构建的4.图表的准确性你怎么评估的？怎么从markdown和HTML 里提取对应图表并比对的？有没有一些异常case举个例子？5.用了playwright去截图，那遇到报错或者渲染失败怎么办6不同设备模块比如交换机、服务器，它们的字段特征都不一样，那你怎么做统一化训练7.那你这个知识图谱底层是用什么数据结构存的8.用的是PAI吗？那有没有对比过比如说 igraph或者图数据库像GraphScope这些之间有啥区别9有没有用过一些大模型的推理？比如说用千问做辅助根因预测10你们这套系统的准确率和召回率大概是多少，那比如说没有到90%，你们是认为这个指标是OK的吗11所以它是系统推理出根因之后还需要人工check，然后才能执行故障预案，有没有哪一部分流程是完全自动化的12你们平台现在接的主要是底层设备指标，那有没有接入一些业务指标，比如订单失败率转化率这类的业务数据13我有个疑问就接入业务指标的话你需要知道整个平台的服务拓扑，那你们这个平台是怎么接入业务侧拓扑的？是自己做的吗？还是中台团队负责15.那你既然用过图数据库，你知道它底层的存储结构是怎样的吗？比如它是怎么组织边和节点的16.我们现在是两阶段推荐架构：第一阶段召回用的是embedding点积召回，第二阶段是MLP跟transformer做多目标打分。那你觉得在我们这么大规模的数据量下，如果要做real-time re-ranking，你会在架构上怎么做trade-off？怎么压低latency17.我们现在在做embedding精度提升也试过加cross tower、attention pooling 甚至meta learning，但发现一旦模型重了，就难以部署到线上实时系统。那你觉得在embedding learning的这个模块里，有哪些方案能在不严重影响线上性能的情况下提升语义表示能力18.我们现在二阶段模型训练的是watchtime、like、share、follow这些目标。但有些目标（比如 share、follow）非常稀疏，有的时候一个batch里面都没有。你要设计一个loss来处理这类多目标问题，既保证主目标收敛，又不能让稀疏目标完全失效，你会怎么设计

岗位偏多模态、内容理解写面经，攒人品1. 从实习项目中提问八股（1）视频数据是如何采样的？抽几帧？分辨率多少？（2）采样后的数据是如何过模型的？（3）用的什么模型？介绍一下？（4）了解其他的多模态大模型吗？介绍一下？（5）介绍一下transformer的结构？（6）介绍一下multihead-attention?（7）multihead-attention为什么要切分？为什么要做成多头的？（8）你觉得多头注意力能提高计算效率吗？结合公式推导一下？（矩阵计算）（9）不能提高计算效率，详细讲讲为什么？（10）multihead-attention现在有一些优化，现在主流的优化都有哪些方向，每个方向...

如图