线上，面试官驻场的时候面的自我介绍实习拷打 JWT 加 Redis 双令牌机制，用户怎么授权的？Token在后台是怎么交互的？服务端怎么鉴权？（感觉面试官想引导我回答ThreadLocal，但是我没接）你说你用到了Redis，它是一个什么样的一个工具或者中间件？它主要用来解决什么问题？我就直接在应用里面用临时变量，比如Map当做Cache，它也是存在内存里面，为什么不选用这种方案？那这两种解决方案有什么优劣？数据一致性问题，讲解一下？那 Redis 有没有这个问题？怎么解决？那什么样的数据适合用缓存呢？你刚刚说了一个抢券的业务，那能不能描述一下这个业务里面哪些数据是可以用缓存来缓存的？那线程多...

背景概述：为什么要写这个呢？虽然现在大模型很火，但对于我们工程同学来说，把大模型当一个黑盒用就好了。一开始我也是这么认为的。直到我在小红书做到了一个需求在小红书的时候有一个需求是优化组内一个 agent 项目的响应和结果优化，这个 agent 是一个复杂的商业助手，并不是说技术很难，但要分析的广告业务很复杂，有上千个指标，好几种场景，prompt非常长，如果输出的效果不好，是没有人愿意用的。用了很多优化手段，比如并发查数据等等。有一天这个项目的正职同学和我说，他和算法那边的同学交流，说可以把我们动态拼到 System prompt 的指标数据拼到用户的 query 里面，这样就可以利用模型的 ...