2024牛客五一集训派对day2 F题

第 53 题：上下文压缩（Context Compression）在长文本场景的应用 题目 解释上下文压缩（Context Compression）技术在长文本场景的应用。 一、为什么需要上下文压缩？ 长文档、多轮对话或大量检索结果会占满 context 窗口，导致：超出模型长度限制、重点信息被挤到边缘、成本与延迟上升。上下文压缩 指在保留关键信息的前提下缩短或摘要送入模型的文本，使更多内容“塞得进”且关键信息不丢。 二、常见做法  摘要：对长段做摘要（用模型或抽取式摘要），只把摘要放入 prompt；适合“只要大意”的问答与检索后阅读。 选择性保留：按相关性或重要性筛选句子/段落（如用检索分...

她只知道我"在找工作"。每次视频她都问："今天怎么样啊？"我能怎么说？"今天笔试挂了一场"？"今天面试没过"？"今天投的简历已读不回"？说了她也不懂"笔试""AI面""HR面"都是啥。她只会跟着着急。所以我每次都说："还行。"她就放心了。然后开始跟我聊家里的狗下崽了、小区门口的超市关门了、隔壁奶奶摔了一跤。这种对话我以前觉得啰嗦，现在我就想听她说这些。比什么"加油宝贝"有用多了。

腾讯面试这个状态是啥意思

Q1：prefix Decoder 和 causal Decoder 和 EncoderDecoder 区别是什么？答案：prefix Decoder 和 causal Decoder 和 Encoder-Decoder 区别在于 attention mask不同：Encoder-Decoder：在输入上采用双向注意力，对问题的编码理解更充分。适用任务：在偏理解的 NLP 任务上效果好。缺点：在长文本生成任务上效果差，训练效率低。causal Decoder：自回归语言模型，预训练和下游应用是完全一致的，严格遵守只有后面的token才能看到前面的token的规则。适用任务：文本生成任务效果好。...