字节跳动抖音电商多模态大模型面经

整体面试还是不错的，但是没后续了，不知道是哪里出了问题1.项目拷打2.你过往的经历中有哪一个是和大模型相关的，请你详细介绍，然后深挖。3.你之前的经历中有做过微调吗？说一下具体场景以及你是怎么做的，数据集如何构建？手撕，第一道是手写MLP，用torch第二道是手写自注意力

面试轮次：三面岗位：AI平台研发/机器学习平台工程师难度：⭐⭐⭐⭐⭐📝面试题“为大规模分布式模型训练（如千卡级别训练ERNIE 4.0）设计一个高性能、可扩展的数据预处理与采样服务。要求：1️⃣ 能从海量（PB级）原始日志/文本中，实时清洗、去重、标准化，生成训练样本；2️⃣ 支持复杂的采样策略（如按热度负采样、难例挖掘）；3️⃣ 服务需以高吞吐（>10W样本/秒/节点）向训练集群供给数据，并保证全局采样分布的一致性。给出架构设计、核心数据处理流水线，并解决数据倾斜与背压问题。”💡解析：AI工业化生产的“数据引擎”💻 这道题直击AI工业化生产的核心——数据流水线。它要求构建一个从原...

字节月35+base，定L3，ai智能体自动化标注工具设计岗位，快手月41+base，定级E8，多模态理解岗位。base都北京，选哪个好？

1. 大模型微调的完整技术方案与工程落地细节采用 LoRA 参数高效微调方案，仅对 Transformer 的 Q/V 投影层添加低秩矩阵，冻结底座模型参数。训练时设置秩 r=8、缩放因子 α=16，使用 AdamW 优化器，学习率 2e-4，配合余弦退火学习率调度与梯度裁剪。工程上使用混合精度训练、分布式数据并行，提升训练效率，训练后合并 LoRA 权重，不增加推理延迟。 import torch import torch.nn as nn class LoRALinear(nn.Module):def __init__(self, in_features, out_features, r=...