华诺星空

第 53 题：上下文压缩（Context Compression）在长文本场景的应用 题目 解释上下文压缩（Context Compression）技术在长文本场景的应用。 一、为什么需要上下文压缩？ 长文档、多轮对话或大量检索结果会占满 context 窗口，导致：超出模型长度限制、重点信息被挤到边缘、成本与延迟上升。上下文压缩 指在保留关键信息的前提下缩短或摘要送入模型的文本，使更多内容“塞得进”且关键信息不丢。 二、常见做法  摘要：对长段做摘要（用模型或抽取式摘要），只把摘要放入 prompt；适合“只要大意”的问答与检索后阅读。 选择性保留：按相关性或重要性筛选句子/段落（如用检索分...

灵神太强了，写力扣没这么爽过

自我介绍项目1. 介绍下 Agent 项目中和亮点2. 项目的主要难点是什么3. 举一个项目中的例子4. ES 在项目中的功能5. 检索结果如何进行融合6. 具体是怎么生成向量的，维度是多少7. 怎么让模型知道有哪些工具，以及模型是如何调用工具的8. SSE 协议返回信息的格式是什么样的9. 记忆模块怎么设计的10. 短期记忆放在哪11. 结构化信息有哪些12. 什么时候开始长期记忆抽取13. 使用 Redis 存储短期记忆产生的大 Key 问题怎么解决14. 如何设计一个上下文卸载功能？15. Agen 执行时间长，在服务重启/崩溃后，如何保证可以接着执行任务，保证任务可以完成MySQL 1...