AI应用开发全景路线图（补充篇）

接上篇
https://www.nowcoder.com/discuss/847995166416703488?sourceSSR=users

还缺少了平台和中间件的部分没有和大家交流，这一篇补充一下

平台&&中间件

和 AI 相关的平台主要就是 Maas 平台和机器学习平台，Maas 平台，大家最熟悉的就是阿里云百炼，用于模型部署，模型微调，并且整合知识库，Agent平台的综合平台

AI 中间件主要包括 AgentRuntime，AI 网关 等等

资料推荐：

首先是平台侧，对于大模型的工程化平台，开源的，我是最推荐 langfuse 的

https://github.com/langfuse/langfuse

langfuse 是 langsmith 的开源平替，包含可观测，评估，提示词管理，数据集管理等主流功能

机器学习平台就比较复杂了，这个主要是各个公司的内部平台，用于算法同学快速迭代的，所以开源的资料比较有限，但我也找到合适的可以学习的

https://github.com/kubeflow/kubeflow

目前最主流的 MLops 工程包，很多机器学习平台的核心功能都是通过这个的组件编排实现的，通过学习这个，就可以逐步理解机器学习平台的核心功能

此外还需要补充，k8s 和云原生相关的技术栈，用于优化模型的部署和调度。

此外还要学习 Ray 这个不可或缺的分布式框架

https://github.com/ray-project/ray

然后是中间件这边

AgentRuntime

智能体沙箱，用于安全，快速，高效的运行智能体应用，并且和 k8s ，serverless 等相关技术结合，实现毫秒启动和动态扩缩容

开源可以看看火山的子项目
https://github.com/volcano-sh/agentcube

AI 网关

只推荐阿里的开源 AI 网关 HIgress

https://github.com/alibaba/higress

AI网关除了一般网关的功能之外，还要支持，mcp托管，http无缝转mcp，模型路由等等，higress通过一个巧妙的插件系统接入了这些，并且还保留了大流量网关需要的核心功能
（这个项目的语义化检索mcp插件是我写的，感兴趣的牛友可以看看）

上面的这些，基本就把我认知中设计 AI 的开发岗位都讲的差不多了，其他评测平台和数据 pipline 搭建的，基本都是比较常规的技术栈，不太需要单独讲，比较喜欢鸡架的同学可以冲这些岗位。

后面的系列规划：
1. 从 0 - 1 实现一个 Agent 框架（教程 + 源码）可以写到简历上面的
2. 一些有意思的项目推荐，目前已经想好了两个，后面发一下
3. 自己的一些踩坑记录（比如后面暑期继续找垂直实习踩的坑#牛客AI配图神器#）
#AI求职实录#