为了解决AI幻觉，我们应该先要理解什么是AI幻觉？AI 幻觉（AI Hallucination），在生成式 AI 领域特指模型生成看似合理、流畅且自信，但与客观事实不符、凭空捏造或逻辑矛盾的内容的现象。通俗地说，就是 AI 在一本正经地胡说八道。我们可以让AI指明内容出处来减少AI幻觉：约束回答范围：仅基于我提供的材料范围的信息来回答，避免任何虚构。若信息不明确，请明确说明。自动标注未验证内容，提供事实信息和来源：自动标注未验证的内容，在回复中提供事实信息和参考来源。#为了减少AI幻觉，你注入过哪些设定？#。 

路过看一眼不说话都要被踹一脚吗

背景概述：为什么要写这个呢？虽然现在大模型很火，但对于我们工程同学来说，把大模型当一个黑盒用就好了。一开始我也是这么认为的。直到我在小红书做到了一个需求在小红书的时候有一个需求是优化组内一个 agent 项目的响应和结果优化，这个 agent 是一个复杂的商业助手，并不是说技术很难，但要分析的广告业务很复杂，有上千个指标，好几种场景，prompt非常长，如果输出的效果不好，是没有人愿意用的。用了很多优化手段，比如并发查数据等等。有一天这个项目的正职同学和我说，他和算法那边的同学交流，说可以把我们动态拼到 System prompt 的指标数据拼到用户的 query 里面，这样就可以利用模型的 ...