美团nlp算法实习-本地商业

发一下问题给大家参考，攒攒人品！1.聊项目，微调数据集怎么构建的，怎么减少幻觉的2.lora微调的A B是怎么初始化的，为什么要这样3.lora微调的loss和预训练的loss计算有什么区别4.交叉熵损失公式，是怎么推导的5.如果微调数据集有不在预训练的token，怎么办6.讲一下你的rag检索方法7.文本检索的倒排索引是如何构建的8.手撕:双指针easy题

刚面完一把大厂的 AI 核心业务线，遇到个懂行的总监，一直在大模型微调这块给我挖坑，估计想看我是不是那种只会调第三方 API 的“外包型开发”。顺手把面试过程复盘一下，供后端转 AI 方向的兄弟们参考。一、 避坑：千万别在简历上乱吹“全量微调”很多后端兄弟为了简历好看，上来就写自己主导了全量微调（Full Parameter Fine-tuning）。这在懂行的人听来挺扯的，全量微调极其烧钱，动辄几百张 A100 显卡，普通业务线哪来这个算力和预算去给你折腾。面试时我直接兜了底：结合咱们真实的业务场景，我只参与了指令微调（SFT）和参数优化。其实大厂现在勒紧裤腰带，最看重的就是“花小钱办大事”，精准踩中降本增效和 ROI 才是正解。二、 被追问的深水区：怎么防“灾难性遗忘”后来聊到把公司的私有业务数据喂给开源大模型时，总监顺理成章地问到了“灾难性遗忘”——模型学了公司的业务黑话，结果连基础的逻辑推理都不会了。应对这个，我切入了用正则化（Regularization）做权重约束的方案。作为 Java 开发，能把这俩概念用大白话解释清楚，面试官基本就认可你的算法底子了：L1 正则化 (Lasso)： 核心在于惩罚项 \lambda \sum |w|。它的特性是会产生稀疏矩阵，能把大模型里很多不重要的特征权重直接清零。我结合了他们公司的端侧场景聊：在智能硬件上部署模型，内存和算力死贵。利用 L1 的稀疏性可以大幅压缩模型体积，在不怎么掉精度的情况下，保住端侧的推理速度。L2 正则化 (Ridge)： 核心是 \lambda \sum w^2。它不会把权重变 0，而是让其变得平滑。大模型的底座参数是跑了万亿 Token 炼出来的完美状态，加新知识时，L2 就像个限流器，防止底座权重发生剧烈漂移。这样既吸收了业务知识，又不会过度拟合。三、 找准后端的生态位：不抢算法的活最后面试官试探性地问：“既然算法原理这么熟，那这微调的训练代码是你用 Python 写的吗？”这绝对是个坑。做后端的一定要守住自己的边界，不能瞎揽活，我当时直接拉回 Java 主场：“炼丹跑 PyTorch 脚本主要是算法团队在搞。作为后端，我在微调链路里的核心价值是做‘数据工程化’。大家都知道 Garbage in, Garbage out，微调的上限全看数据质量。我主要用 Java 跑高并发的 ETL 任务，从 MySQL/ES 里把真实的业务日志抽出来，洗掉敏感词和废话，组装成严格的 {"instruction": "...", "input": "...", "output": "..."} 格式。没有后端的这条数据流水线，算法团队连干净的‘饲料’都拿不到。”总结：后端面 AI 岗位，最吃香的画像其实是：懂点算法底层逻辑（知道显存怎么省、遗忘率怎么控），但核心精力全扎在工程落地（清洗海量数据、保障系统并发）上的务实派。希望对大家有帮助。

给我面没招了，感觉自己好菜、面试很难，还是要多多练习1.论文拷打2.gat和transformer的attention机制有什么区别3.你觉得你的改进为什么work4.意图识别是怎么做的5.拿llm做文本分类比bert好吗6.lora比其他微调方法有什么优势吗？7.了解过多模态相关吗？8.mha

📍面试公司：深圳某小厂🕐面试时间：2026/3/16💻面试岗位：Java后端工程师❓面试问题：1. 先自我介绍2. 介绍项目3. 有哪些基本数据模型4. JVM内存模型介绍一下5. 用过哪些数据库6. MySQL有哪些索引7. 可以从哪方面进行SQL语句优化8. Linux有用过吗，有部署过项目吗9. Docker 怎么查看容器进程10. Docker 如何进入容器11. MySQL 你熟悉哪些关键字12. 左连接和右连接有什么区别13. Union 和 Union All 有什么区别14. Redis有使用过吗15. Redis支持哪些数据结构16. 什么场景更新数据？（缓存一致性）17. 使用过多线程吗18. 实现多线程有哪些方法19. 线程如何按顺序执行20. Java反射机制有了解过吗？能用来做什么21. 表单提交，Get和Post有什么区别22. 有用过Git吗，有合并过分支吗23. 如果让你合并你拉的子分支到主分支，你会怎么做24. 有用过前端vue吗25. 如果在父组件调用子组件，我该怎么调用26. 有用过AI吗27. 反问环节（询问业务，薪资）🙌面试感想：这次面试总共面试了30min，面试起来比起前一次好多了，面试官的语气感觉也挺好的。这次面试的内容挺基础的，大部分都能够答得出来，但是还是不太连贯，回答起来脑回路不太清晰，还有就是我感觉麦克风的质量不太行，OBS听起来倒是还不错，但是回看tx会议里的录像又有底噪。总的来说感觉还不错吧。