想写这个很久了，因为自己在开源和实习中也接触过一些 ai 的工程化内容，对这一块也有一些自己的思考，这个路线图说是 AI 应用开发全景路线图，其实我是想写从 maas 平台到 AI infra 的整个模型工程化的全链路的知识，但是笔力有限，第一版应该先聚焦于平台和应用开发。学识尚浅，也欢迎各位牛友一起交流，探讨，完善阅读建议：每个模块开始是我的一点思考和收集的信息，后面就是学习建议和资料（主要是开源项目+文档，视频资源如果有比较不错的也会放上去），有些技术可能没有好的教程，后续会陆陆续续的出文章+ demo 和大家交流一，AI 应用开发到底是什么概述AI 应用开发这个字眼从 gpt 刚开始火的...

走到这一步，确实有些意外。先简单说说我的情况，我是双非本，大一那年对后端兴趣特别浓，学了快一年半。但不知为什么越往后学兴趣越淡——大概到分布式那块，比如nacos、卡夫卡这些，感觉越来越吃力。再加上看到师兄师姐在后端方向上的碰壁(现在是大go时代），在和师兄师姐商量后我在今年一月左右转前端了或许是因为有java的基础，对项目开发流程有些概念，前端三件套我过得比较快。之后学了Vue，动手做了自己的博客，这大概也是我转前端的一个重要原因吧，一直很想拥有一个属于自己的个人博客，能按自己的想法去设计、实现，并长期迭代完善，这种成就感真的很棒。之前拿过别人的开源项目来更改 但是自己修改的就是一坨，那个时候缺少对前端代码的理解 就算借助ai做出来的效果也是一坨就这样到了大二暑假，我觉得该找份实习，丰富一下简历了。我自认不是很有创造力的人，平时少有自发的项目灵感，所以更希望通过实习开阔眼界、提升能力。一开始投递和面试的过程挺煎熬的，或许是因为目标多是中小厂，很多hr已读不回，或是直接砍半薪资问我接不接受。面试时也常觉得像在走流程，问的都是八股文，有的面试官还会边看题边问，甚至有一次十分钟就结束了，好在最后钛动给了我机会。实习期间我学到了很多，虽然也常被拷打，还好ld会帮我收拾烂摊子。从钛动离职回校后，我半推半就地背八股、学新技术，无聊时就刷里扣、看看牛客和biss。原本以为双非bg很会被hr速度筛掉所以就尝试性的投了纷享销客和百度的日常实习，没想到最后两家都oc了，雷姆了家人们，双非鼠鼠居然圆了大厂梦yysy，这一路其实冒了不小的风险。毕竟学了那么久的后端，大学四年时间有限，突然转前端，意味着很多积累的知识可能用不上了。但我很庆幸当时有放下的勇气。无论过去做了什么选择，我都想感谢当时的自己，因为那份勇气，才走到了今天。同时也很感谢这一路师兄师姐的帮忙，师兄帮忙模拟面试，提供资料，师姐教我如何选择岗位，如何处理实习带来的问题马上就要北漂了，对未来是充满了期待也存在着恐惧，南方人头一次去这么远的地方，每天都能看到雪，可以跟实力强劲的同事合作，想想都很兴奋，但是也害怕自己不能胜任这份工作会被压力到爆，但是不管怎么样大家一起互勉吧，呆在舒适区只会停滞不前，压力才能带来成长

背景概述：为什么要写这个呢？虽然现在大模型很火，但对于我们工程同学来说，把大模型当一个黑盒用就好了。一开始我也是这么认为的。直到我在小红书做到了一个需求在小红书的时候有一个需求是优化组内一个 agent 项目的响应和结果优化，这个 agent 是一个复杂的商业助手，并不是说技术很难，但要分析的广告业务很复杂，有上千个指标，好几种场景，prompt非常长，如果输出的效果不好，是没有人愿意用的。用了很多优化手段，比如并发查数据等等。有一天这个项目的正职同学和我说，他和算法那边的同学交流，说可以把我们动态拼到 System prompt 的指标数据拼到用户的 query 里面，这样就可以利用模型的 ...