一战腾讯wxg凉凉

继续来分享下之前的面经~欢迎友好讨论，信息共享1.项目拷打2.介绍一下数据集对大模型更熟悉还是传统推荐更熟悉3.强化学习dpo ppo grpo有了解吗4.大模型微调了解吗比如lora5.AUC和gauc是什么6.ndcg是什么7.pointwise pairwise 了解吗8.双塔召回多目标建模9.你有实际用过这些模型吗10.手撕:最长回文子序列

之前团队在做合同审查和研报问答两个 RAG 项目，踩了不少分块（Chunk）相关的坑。今天把这块经验整理一下，希望对正在做类似事情的朋友有点帮助。先搞清楚 Token 这个概念做 Chunk 之前，得先理解 Token。很多人把 Token 简单等同于"字"或"词"，这不太准确。Token 是模型实际处理的最小单元，中文大约 1.5-2 个字对应一个 Token，英文则大约是 0.75 个单词一个 Token。这件事为什么重要？因为不同类型的文档，Token 密度差异很大。我们实测过：一份 20 页的中文合同，大约 8000-12000 个 Token；...

"你简历上这个项目模型准确率提升了15%，是怎么做到的？"——这是最容易翻车的题。如果项目是跟着教程做的，细节根本经不起追问。面试官会问你数据集怎么处理的、baseline是什么、调了哪些超参数、有没有做消融实验。没有亲手做过的项目，真的一问就露馅。

1、LoRA 微调的原理LoRA 的核心思想是不直接更新预训练模型里的原始大权重，而是在某些线性层旁边增加一个低秩更新分支，用低秩矩阵去近似权重增量。假设原始权重是 W∈Rd×k，全量微调时直接学习ΔW，LoRA 则把它写成：ΔW=BA其中A∈Rr×k，B∈Rd×r ,，(r) 是远小于 (d) 和 (k) 的秩。这样前向计算就变成：h=Wx+ΔWx=Wx+BAx实际里通常还会加缩放项：这样做的本质是认为很多下游任务对大模型权重的更新其实存在低秩结构，不需要真的去学习一个完整的大矩阵。LoRA 的优点是可训练参数少、显存占用低、训练快，而且原模型参数冻结，方便多任务切换和权重管理。2、LoRA...