钛动科技一面

先做代码题，再深挖算子优化、图融合和量化这场阿里一面整体给我的感觉是，节奏比较紧，前面先处理了一个在线代码题，后面基本都是顺着项目经历往下深挖。代码题是“队列的最大值”，要求均摊 O(1) 地返回当前队列最大值，我当时用的是普通队列加单调双端队列这套常见思路：一个队列维护正常入队出队，另一个双端队列维护当前可能成为最大值的候选元素。这个题本身不算特别难，但相当于是先热一下身，也看你对基础数据结构是不是熟。后面的主体还是项目追问，而且问得挺细。面试官先从我做过的算子优化、图优化这些经历切进来，重点问的是：你到底怎么判断哪些地方值得优化，哪些算子值得单独提出来做性能优化，哪些链路值得做融合。我当时...

刚面完一把大厂的 AI 核心业务线，遇到个懂行的总监，一直在大模型微调这块给我挖坑，估计想看我是不是那种只会调第三方 API 的“外包型开发”。顺手把面试过程复盘一下，供后端转 AI 方向的兄弟们参考。一、 避坑：千万别在简历上乱吹“全量微调”很多后端兄弟为了简历好看，上来就写自己主导了全量微调（Full Parameter Fine-tuning）。这在懂行的人听来挺扯的，全量微调极其烧钱，动辄几百张 A100 显卡，普通业务线哪来这个算力和预算去给你折腾。面试时我直接兜了底：结合咱们真实的业务场景，我只参与了指令微调（SFT）和参数优化。其实大厂现在勒紧裤腰带，最看重的就是“花小钱办大事”，精准踩中降本增效和 ROI 才是正解。二、 被追问的深水区：怎么防“灾难性遗忘”后来聊到把公司的私有业务数据喂给开源大模型时，总监顺理成章地问到了“灾难性遗忘”——模型学了公司的业务黑话，结果连基础的逻辑推理都不会了。应对这个，我切入了用正则化（Regularization）做权重约束的方案。作为 Java 开发，能把这俩概念用大白话解释清楚，面试官基本就认可你的算法底子了：L1 正则化 (Lasso)： 核心在于惩罚项 \lambda \sum |w|。它的特性是会产生稀疏矩阵，能把大模型里很多不重要的特征权重直接清零。我结合了他们公司的端侧场景聊：在智能硬件上部署模型，内存和算力死贵。利用 L1 的稀疏性可以大幅压缩模型体积，在不怎么掉精度的情况下，保住端侧的推理速度。L2 正则化 (Ridge)： 核心是 \lambda \sum w^2。它不会把权重变 0，而是让其变得平滑。大模型的底座参数是跑了万亿 Token 炼出来的完美状态，加新知识时，L2 就像个限流器，防止底座权重发生剧烈漂移。这样既吸收了业务知识，又不会过度拟合。三、 找准后端的生态位：不抢算法的活最后面试官试探性地问：“既然算法原理这么熟，那这微调的训练代码是你用 Python 写的吗？”这绝对是个坑。做后端的一定要守住自己的边界，不能瞎揽活，我当时直接拉回 Java 主场：“炼丹跑 PyTorch 脚本主要是算法团队在搞。作为后端，我在微调链路里的核心价值是做‘数据工程化’。大家都知道 Garbage in, Garbage out，微调的上限全看数据质量。我主要用 Java 跑高并发的 ETL 任务，从 MySQL/ES 里把真实的业务日志抽出来，洗掉敏感词和废话，组装成严格的 {"instruction": "...", "input": "...", "output": "..."} 格式。没有后端的这条数据流水线，算法团队连干净的‘饲料’都拿不到。”总结：后端面 AI 岗位，最吃香的画像其实是：懂点算法底层逻辑（知道显存怎么省、遗忘率怎么控），但核心精力全扎在工程落地（清洗海量数据、保障系统并发）上的务实派。希望对大家有帮助。

1. 全参数微调的显存一般怎么估算全参数微调的显存不能只看模型参数本身，真正上线训练时至少要把参数、梯度、优化器状态和激活值都算进去。最粗略的估算方式是：如果模型参数量是 N，训练精度是 bf16，那么参数大约占 2N 字节，梯度再来一份 2N，如果用 Adam，还要额外保存两组一阶和二阶矩，通常再加 4N + 4N 字节。也就是说，不考虑激活值时，单参数相关内存大致可以按 12N ~ 16N 字节估。真正把 batch size、sequence length、checkpointing、并行策略加进去后，激活值往往才是大头。所以面试里如果只答“参数量乘 2”基本不够。更稳的答法是先给出静态...

个人背景：学院二本计科专业 大二开始实习个人经历：安克创新 、理想汽车、字节跳动碎碎念：我做事只有三分钟热度。看到进了大厂的同学，我会羡慕，也会跟着努力上进；但遇到好看的小说，我又会放下手头的事沉迷其中，之前的坚持也就中断了。我有些自卑，总觉得自己学历和外貌都不够好。之前偶然在网上受到关注，我就喜欢上了上网，因为这里有很多人认可我。但我也很在意别人的评价，偶尔看到嘲讽的言论，会触发我的自卑情绪，让我感到愤怒。有时候我会强硬地回怼，有时候又会懦弱地选择无视。我也有虚荣心。不管是拿到安克、理想还是字节的机会，我在分享的时候都会带着这份心思。我会特意强调自己学历不好，是为了衬托出过程的艰难，以此显得自己更厉害。我知道，人往往会炫耀自己缺少的东西，来掩盖内心的空洞。我总想着走捷径，不太喜欢踏踏实实地做事。找实习的时候，我花了更多时间在研究面试技巧上，而不是提升专业能力。我会反复听面试录音分析技巧，看面试教程学习怎么和不同的面试官沟通，还会每天自言自语练习语言表达，同学都觉得我有点奇怪。我的实习生涯里，侥幸和运气占了很大一部分。我总在想，如果有一天我失去了这份幸运，这些特质可能会让我一蹶不振。ps： 很多人会问我学习路线和经验 但是就像我上面说的 我的实习过程靠的很多是关键节点的运气 技术上面我可能不如很多人  所以请大家理性求助和理性参考我的回答 附上我的投递记录