汇川

前言这是我的agent系列文章的第8篇，该系列分为三部分：AI认知篇：详细讲解相关基础概念AI实践篇：分享诸如skills怎么写、怎么ai coding、怎么写好prompt等的最佳实践AI八股篇：分享我自己整理的应付大模型应用开发岗位必备的八股笔记（后端与agent2手抓学习专栏想象一下，你拥有一匹日行千里的神骏，它力量无穷，速度惊人。但如果直接骑上它去送货，结果很可能是：它跑得飞快，却跑错了方向，或者在半路被路边的野花吸引，完全忘了任务。这匹“神骏”就像今天强大的大语言模型（LLM），而Harness，就是为它量身定制的“缰绳”、“马具”和“导航系统”。简单来说，Harness（驾驭层）是...

题目 什么是位置编码？对比绝对位置编码和相对位置编码的优缺点。 一、为什么必须有位置编码？ Self-Attention 对输入做的是集合运算：打乱 token 顺序， 和  的结果完全不变。所以 Transformer 本身无法区分“谁在前、谁在后”，必须显式注入位置信息，否则“我吃苹果”和“苹果吃我”在模型眼里可以一样。这就是**位置编码（Positional Encoding）**要解决的问题。 两种思路：  绝对位置编码：给每个位置  一个向量 ，和 token 嵌入相加（或拼接）后再进 Attention，回答“这是第几个位置”。 相对位置编码：不在输入上加向量，而是在 Attent...