AI应用开发全景路线图(补充篇)

#推荐一个值得做的AI项目# 接上篇
https://www.nowcoder.com/discuss/847995166416703488?sourceSSR=users

还缺少了平台和中间件的部分没有和大家交流,这一篇补充一下

平台&&中间件

和 AI 相关的平台主要就是 Maas 平台和机器学习平台,Maas 平台,大家最熟悉的就是阿里云百炼,用于模型部署,模型微调,并且整合知识库,Agent平台的综合平台

AI 中间件主要包括 AgentRuntime,AI 网关 等等

资料推荐:

首先是平台侧,对于大模型的工程化平台,开源的,我是最推荐 langfuse 的

https://github.com/langfuse/langfuse

langfuse 是 langsmith 的开源平替,包含可观测,评估,提示词管理,数据集管理等主流功能

机器学习平台就比较复杂了,这个主要是各个公司的内部平台,用于算法同学快速迭代的,所以开源的资料比较有限,但我也找到合适的可以学习的

https://github.com/kubeflow/kubeflow

目前最主流的 MLops 工程包,很多机器学习平台的核心功能都是通过这个的组件编排实现的,通过学习这个,就可以逐步理解机器学习平台的核心功能

此外还需要补充,k8s 和云原生相关的技术栈,用于优化模型的部署和调度。

此外还要学习 Ray 这个不可或缺的分布式框架

https://github.com/ray-project/ray

然后是中间件这边

AgentRuntime

智能体沙箱,用于安全,快速,高效的运行智能体应用,并且和 k8s ,serverless 等相关技术结合,实现毫秒启动和动态扩缩容

开源可以看看火山的子项目
https://github.com/volcano-sh/agentcube

AI 网关

只推荐阿里的开源 AI 网关 HIgress

https://github.com/alibaba/higress

AI网关除了一般网关的功能之外,还要支持,mcp托管,http无缝转mcp,模型路由等等,higress通过一个巧妙的插件系统接入了这些,并且还保留了大流量网关需要的核心功能
(这个项目的语义化检索mcp插件是我写的,感兴趣的牛友可以看看)

上面的这些,基本就把我认知中设计 AI 的开发岗位都讲的差不多了,其他评测平台和数据 pipline 搭建的,基本都是比较常规的技术栈,不太需要单独讲,比较喜欢鸡架的同学可以冲这些岗位。

后面的系列规划:
1. 从 0 - 1 实现一个 Agent 框架(教程 + 源码)可以写到简历上面的
2. 一些有意思的项目推荐,目前已经想好了两个,后面发一下
3. 自己的一些踩坑记录(比如后面暑期继续找垂直实习踩的坑#牛客AI配图神器#
#AI求职实录#
全部评论
快来框架
1 回复 分享
发布于 02-11 16:45 山东
蹲一个大佬后续Agent框架的实现
点赞 回复 分享
发布于 02-11 10:49 新加坡
老哥这整理的挺全面的啊
点赞 回复 分享
发布于 02-08 15:42 陕西
可以啊
点赞 回复 分享
发布于 02-06 16:26 山西
学到了 谢谢哥
点赞 回复 分享
发布于 02-06 16:26 内蒙古
进不去AI大厂 有没有小厂推荐
点赞 回复 分享
发布于 02-06 16:25 湖南
兄弟你太牛了!膜拜
点赞 回复 分享
发布于 02-06 16:25 江苏
感谢大佬
点赞 回复 分享
发布于 02-06 16:25 山东

相关推荐

02-27 13:44
吉林大学 Java
浅谈一下,个人理解跑路互联网几大岗位学习路径🎇非技术岗产品+运营:业务八股,主要是实习,办公软件使用,软实力更多一点,学历和实习其中产品需要:prd,原型图,sql入门就行,主要是查询语句,几个小时的速成即可,excel的vlookup等,从0-1入门产品经理的网课,运营需要:主要还是偏软实力的运营相关课程数分:sql(黑马,python,bi画图工具+业务八股,ab实验之类的,也是主要是实习,学历和实习 40hAi产品:python,pytorch,机器学习,深度学习理论与实战,大模型相关基础知识,transform架构和知识,业务知识 学历和实习 60h风控策略:s数分的技能点还要对应的信贷的业务知识背景 学历和实习🔧技术岗:学习门槛比较少的搜广推,python,pytorch,spark,机器学习+深度学习,小土堆,李沐,吴恩达,李宏毅,王树森推荐系统,kaggle项目, 学历和实习 80h风控算法,python,机器学习和深度学习,相关业务知识和项目 80h数开数仓:java,python,linux,sql,这些是基础的,进阶的:hadoop,hive,spark,kafka,flink,zookeep,数仓建模理论,阿里大数据,bi,tb可视化,几个项目,尚硅谷或者黑马,可选的:redis,hbase,monggodb 200h大模型应用开发:python,java,机器学习深度学习,rag,mcp,agent,langchain,langgraph,大模型微调 150h大模型算法:学历实习论文,python,机器学习和深度学习,nlp,损失函数、数据处理,预训练,大模型结果评估,监督微调sft,人类偏好对齐rlhf,高效微调lora等,强化学习,经典的大模型架构,例如gpt,qwen,创新的架构,框架应用,性能优化deepseed,模型量化,检索增强rag,agent,其他:模型压缩,技术报告 300h (校招故事会)核心精简版:python,机器学习和深度学习,llm的前置知识和理论,transformer,预训练的知识,tokenization,rope,归一化,flashattention,后训练,sft,lora微调,rlhf,rag,agent数据科学数据挖掘:低配版算法,sql,python,机器学习和深度学习,业务知识开发大类(含前后端测试):暂未整理全部都是:一两个项目,学历,专业尽量对口,跨专业也可以,主要看实习,大模型这一块还看论文,八股,有代码的还要准备手搓代码,力扣hot100,然后刷实习
掌握什么AI技能,会为你...
点赞 评论 收藏
分享
评论
39
133
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务