字节的面评和抖音快手这些通用的吗

攒攒人品！有面试过同岗的朋友欢迎评论区交流1.实习拷打2.项目介绍3.多任务模型为什么没有使用过ESMM？4.全量更新是怎么做的？增量更新是怎么做的？5.线上线下的验证指标都有哪些？6.多任务模型一般有哪些多任务7.特征优选是怎么做的？为什么要这么做？你还知道哪些特征相关性的分析方法？8.数据样本的比例是多少？9.讲讲PLE模型的架构，细节到每一层的输出都有哪些组成，维度是多少？八股1.讲讲transformer架构2.讲讲Lora，QLora微调的原理？还知道哪些大模型训练的框架3.了解过RLHF吗？4.有没有做过Agent，Agent一般是怎么做的？有哪些流程？5.讲讲ROPE，绝对位置编码和cos，sin相对位置编码的区别？你还知道哪些其他的位置编码？

1. 介绍一下你做的这个项目2. LoRA 的基本原理是什么LoRA 的核心思路是，微调大模型时没有必要把整个权重矩阵都更新掉，而是只学习一个低秩的增量。原始权重记作 (W)，微调后的权重写成：其中 (A) 和 (B) 的秩都很低，参数量远小于直接更新整个 (W)。训练时冻结原模型参数，只训练这两个小矩阵，这样显存占用、优化器状态和保存体积都会小很多。它适合做领域适配、指令微调这类任务，因为很多任务对模型的改动并不需要覆盖完整参数空间。LoRA 常见会插在 attention 的 q_proj、v_proj 上，有时也会加在 k_proj、o_proj 或 MLP 层。选哪些层，本质上是在表达...

感觉面完人都通透了，还是太菜了，下去沉淀一下1.可以挑一个最近觉得挑战比较大的项目展开介绍一下吗？2.Agent内部具体的实现可以再详细介绍一下吗？3.MCP是把自然语言转成预置查询类的工具吗？4.操作内部平台时，工具会去操作吗？5.系统测试完成后，准确率怎么评估？6.用20%数据作为测试集，是模型跑case后人工评判准确率吗？7.如何对答案进行轨迹级评分？8.目前系统的准确率是多少？9.项目后续继续优化的话，有哪些优化思路？10.现在系统最核心的问题是并发问题吗？11.准确率还有提升空间吗？12.模型输出不符合预期时，prompt会有问题吗？会调prompt吗？13.有考虑过做SFT和强化学习吗？14.目前RAG具体的实现是怎么样的？15.如果用Redis的缓存，会在哪个阶段去做？16.Redis为什么在高并发情况下表现得比较好？17.什么场景下会用多线程？18.RAG作为知识库检索，和把知识库放到ES上让模型调用MCP接口有什么区别？19.若自己实现包含ES检索和向量检索的搜索接口，和RAG有什么区别？20.Redis和MySQL在使用场景上有哪些区别？21.B+树是怎么样的结构？22.B+树和红黑树的区别是什么？MySQL用红黑树效率会更好吗？23.1000万条数据用B+树存储，树的高度大概是多少？24.场景题，给定一个实时输入流（随时可能停，无法全量存储），如何等概率选取5条记录？25.手撕：两个有序数组，O（logN）求合并后第k大的数

基础得先打牢。LLM的基本原理要懂，不需要能训练模型，但得知道prompt怎么写、上下文窗口是怎么回事、为什么模型会幻觉。这些是地基，地基不稳上面全是空中楼阁。然后是框架。LangChain和LlamaIndex是目前用得最多的，几乎每个Agent项目都绕不开。但别只会调API，得理解它们的设计思路，比如chain是怎么串联的、memory是怎么管理的、tool calling是怎么实现的。RAG是必学项。Agent大量依赖外部知识库，向量数据库至少要会用一个，embedding是怎么回事要清楚，检索策略怎么优化要有概念。工程能力别忽视。Agent本质上还是个软件系统，API设计、异步处理、错...