经纬恒润二面

1. Transformer 为什么使用多头注意力机制，为什么不只用一个头？多头注意力的核心，不是单纯把一个 attention 做很多遍，而是让模型在不同子空间里同时学习不同类型的关系。一个头可能更关注主语和谓语的关系，另一个头可能更关注长距离依赖，还有的头更容易学到局部词序和语义搭配。如果只用一个头，模型也能做注意力，但它只能在一个投影空间里建模，表达能力会受限。多头的做法是先把输入分别线性映射成多组 (Q,K,V)，每组各自做 attention，最后再拼接起来。这样模型就能从多个角度同时看同一句话。公式一般写成：其中：所以多头的本质价值是：增强表示能力，而不是简单重复计算。2. 为什么...

大二小登简历求拷打

🎓学历背景：一民办二本👨‍💻意向职位：软件测试📍求职类型：实习生🔑遇到的问题：投了很多家都是已读未回，要么就是说不合适，求大佬拷打一下我的简历

前言这是我的agent系列文章的第4篇，该系列分为三部分：AI认知篇：详细讲解相关基础概念AI实践篇：分享诸如skills怎么写、怎么ai coding、怎么写好prompt等的最佳实践AI八股篇：分享我自己整理的应付大模型应用开发岗位必备的八股笔记如果觉得有帮助，欢迎关注我并期待后续文章！预期是日更哦！当天没更可能是因为太累了，周末会弥补的。在大模型应用落地的浪潮中，我们常常面临一个核心矛盾：大模型博学但“失忆”，且容易“胡编乱造”。它不知道我们公司昨天的会议纪要，也不了解最新的内部产品文档。为了解决这个问题，检索增强生成（RAG, Retrieval-Augmented Generatio...