美团求捞

第 53 题：上下文压缩（Context Compression）在长文本场景的应用 题目 解释上下文压缩（Context Compression）技术在长文本场景的应用。 一、为什么需要上下文压缩？ 长文档、多轮对话或大量检索结果会占满 context 窗口，导致：超出模型长度限制、重点信息被挤到边缘、成本与延迟上升。上下文压缩 指在保留关键信息的前提下缩短或摘要送入模型的文本，使更多内容“塞得进”且关键信息不丢。 二、常见做法  摘要：对长段做摘要（用模型或抽取式摘要），只把摘要放入 prompt；适合“只要大意”的问答与检索后阅读。 选择性保留：按相关性或重要性筛选句子/段落（如用检索分...

网友提问：现在很多项目靠 AI 写出来，那项目的含金量在哪里呢？Yt回复：一、先看一个典型场景：内存占用率很高，系统卡顿假设我们现在遇到一个问题：程序运行过程中，内存占用率逐步增高，导致整个系统很卡顿。这是一个现象，不是原因。表面现象就是：内存占用率很高，系统很慢。作为一个工程师，你得去梳理：到底是哪个环节引起的？二、发现问题：AI能帮你搞定吗？你梳理这个问题的过程中，你敢交给AI吗？你试过吗？你让AI试试看？等你慢慢去梳理的时候，这个时间绝对不短。一天、两天、三天，可能一个星期都有可能。梳理下来，发现原来是这个地方——有个地方内存没有释放。这个问题可能比较显性：内存没有释放，或者说在一个特定...