4.7淘天一面

1. 先做一个简短的自我介绍，重点讲你和 AI 应用开发最相关的经历2. 讲一下你做的这个Agent项目介绍一下核心链路一般是用户输入问题后，先做意图识别，再判断是走直接生成、知识检索还是工具调用。技术上可以拆成接入层、编排层、检索层、模型层和观测层。编排层负责 Prompt 模板、上下文管理和工具路由；检索层负责文档切片、向量检索、关键词检索和重排；模型层负责对接通用大模型和总结模型；观测层负责 trace、耗时、召回质量和最终答案质量。 public Answer handle(QueryReq req) { Intent intent = intentService.detect(req...

攒人品中，祝大家都能拿到满意的Offer！1.实习介绍2.hashmap相关八股3.拷打项目。。。4.AI局限性，不可靠。遇到怎么解决。5.上下文限制问题6.prompt7.幻觉8.了解agent吗9.拷打项目。。。10.如果要你借助AI重做项目，你会怎么做11.AI-coding

1. 做一下自我介绍2. RAG 分块策略应该怎么选，真正影响效果的核心因素是什么分块策略不是越细越好，也不是统一按 token 长度切就行。真正影响效果的是 chunk 是否保留了完整语义单元、是否带有足够的定位信息、是否能在召回后被模型直接利用。像制度文档、规则文档、FAQ、表格和多层级说明，最佳切法差异很大。比较稳的方式通常是结构优先、语义补充、长度兜底，也就是先尊重标题、段落、表格、列表，再在超长片段内部做语义切分。这样做的目标不是生成整齐块，而是让每个 chunk 自带最小可回答上下文。3. 怎么评估 RAG 的效果，除了准确率还能看什么RAG 效果不能只看最终回答对不对，因为那样很...

简直是夯爆了！！！1.实习项目相关问题2.详细介绍一下你做过的智能客服系统。3.你们这套系统主要的应用场景大概是怎么样的？能举个例子介绍一下。4.什么情况下需要用到你的那个 expert 相关技术？5.整套系统的主要难点是在于什么地方？6.中间的 Planner，它的规划机制是怎么样的？比如它底层需要调用哪些工具？是不是需要多轮规划？中间的一些详细设计是怎么设计的？7.你们怎么去评估客服对客户的输出是好还是坏？8.搜索功能是怎么实现的？9.你在中间起到的主要作用是什么？你做出了什么改进？10.你这个迭代的过程中，有 ground truth 吗？比如每一个 query 实际上最终最相关的商品是有哪些？11.你中间做了一些什么样的技术迭代？最终体现在人工评估指标上有什么样的提升？有做过对比吗？12.这个人工评估的指标是怎么设计的？最后它的指标结果怎么样？13.这个指标结果是内部人工评估的，还是线上的结果？14.中间优化的过程中，你们用的是一个什么样的模型？15.你的那个 expert 模型，怎么去训练的？样本从哪里来？16.导购场景的数据是真实的用户跟人工客服对话的场景数据吗？17.训练的样本量大概是多大？18.1000 条样本就足够训练你的这个模型了吗？19.你对比过训练之前跟训练之后，同样的问题模型学习后的能力提升大概有多少？20.你能做到比原始蒸馏出来的模型效果还强吗？21.训这个 8B 的模型用的是多大显存的？什么显卡？八股1.正常来说，1B 的模型在没有做任何量化的情况下，原始 FP 格式存储大概要占到多少显存？2.不考虑梯度的情况，单纯只考虑 Inference，把参数加载到显存里面大概要占多少显存？3.平时有用过一些量化加速的方法吗？4.常用的量化手段比如 INT4、INT8、BF，它们之间怎么做到加速的？你有了解过吗？5.FP 跟 BF 之间的区别，你了解吗？6.FP 和 BF 底层实现的区别主要在哪个地方？7.正常的 MP32 在底层数据存储上，小数是怎么表示的？手撕：有连续的 N 个正整数，随机抽出一个（不拿头尾），将其他数乱序放入 N-1 大小的数组中，找出被取出的数。要求时间复杂度 O (N)，空间复杂度 O (1)。