字节大模型应用开发 日常实习一面

1、自我介绍2、项目拷打3、讲一下 OpenClaw 的记忆本地存储怎么设计如果做本地记忆存储，我不会把它设计成简单的对话历史追加，而会把它拆成短期记忆、长期记忆和检索索引三层。短期记忆主要服务当前会话，用来保存最近几轮对话、当前任务状态、工具调用结果和待执行动作；长期记忆主要保存用户偏好、历史事实、任务总结和可复用经验；检索索引层则负责把长期记忆做结构化检索和语义召回。本地存储设计时，数据模型最好不要只存一段纯文本，而是存结构化记录。比如：memory_iduser_idsession_idmemory_typecontentsummarytagscreated_atupdated_atim...

发点面经攒攒人品～1.实习介绍2.拷打第一个项目3.拷打第二个项目4.在向量化之前，为什么要对长文档进行切片？如果不切片会有什么后果？5.切片时设置重叠区域的作用是什么？这个比例你通常怎么来确定？6.讲一下稠密向量与稀疏向量的区别，分别适合处理什么样的搜索需求？7.向量库检索出的Top-K结果，如果K值设置得过大，对后续的生成质量有哪些负面影响？8.余弦相似度和欧氏距离在衡量文本相似性时，各自的优缺点是什么？9.为什么在初筛召回之后，还要加一个Rerank模型？它能解决向量搜索的哪些局限？10.如果文档发生了局部更新，如何通过增量索引来避免全量重新向量化？11.在RAG的生成阶段，如何在Prompt中设定边界条件来防止模型在没搜到内容时产生幻觉？12.了解HyDE吗？介绍一下原理，它在处理模糊提问时有哪些优势？13.随着超长上下文模型的出现，你认为传统RAG架构的必要性是否降低了？14.你了解哪些大模型推理框架？SGLang相比vLLM的PagedAttention在推理延迟上有哪些优势？15.调用大模型API时，为什么要使用asyncio异步编程？它在处理高并发请求时有何优势？16.针对大规模PDF解析这种任务，你选择多线程还是多进程？17.如何确保Agent返回的结果是标准的JSON格式？如果模型输出中有多余的说明文字，你在后端如何提取？18.场景题：对于RAG，如果检索到了针对同一故障的两份手册，内容相互冲突，请你设计一套逻辑，让模型能够识别冲突并优先选择时效性更高的信息？19.手撕：第k大元素

1. 你们线上大模型应用的整体架构是怎样的？常见架构就是这几层：用户请求先进入 API 网关，再到业务服务层。业务服务层负责鉴权、限流、Prompt 拼装、会话管理、工具编排。如果有知识库，就先走检索链路；如果要调外部能力，就走工具调用；最后把上下文交给大模型生成结果。生成结果出来后，再做内容过滤、格式化、日志落库、监控上报。核心链路一般是：用户请求 -> 业务编排 -> 检索/工具 -> 模型推理 -> 后处理 -> 返回结果2. 你们怎么做 Prompt 工程？Prompt 不是简单写一句提示词，而是模板化管理。常见做法是把 Prompt 拆成几部分：syst...

求内推