AI Infra 学这些可以吗？

想做 AI Infra / LLM 推理系统 方向。 身边没有同方向的朋友能问，自己摸着石头过河整理了一份学习路线，越整理越虚——感觉知识点又多又散 alt alt alt alt alt alt alt

我自己总结的核心路线就一句话：

先理解模型前向 → 再理解单请求生成 → 最后再看多请求 / 多卡 / 多实例下的系统优化

把 Decoder 模型和最小推理框架先跑通，再去看工业级系统，应该很多设计会自然浮出来——这个思路对吗？

想和大家多多交流！

#如何成为1个AI工程师？#
全部评论
也在自学AI Infra方向，跟佬蹲一波路线
1 回复 分享
发布于 05-14 19:01 上海
学AI Infra C++要到啥程度啊
点赞 回复 分享
发布于 05-14 19:04 北京
先跑通最小推理demo再看vllm，思路没问题
点赞 回复 分享
发布于 05-14 18:57 陕西
decoder最小推理跟的哪本资料
点赞 回复 分享
发布于 05-14 11:06 陕西
整理完更虚是真的
点赞 回复 分享
发布于 05-14 11:00 陕西
同想做infra,蹲大佬指路
点赞 回复 分享
发布于 05-14 10:51 北京

相关推荐

05-10 15:34
中国农业大学 算法工程师
点赞 评论 收藏
分享
04-21 16:26
门头沟学院 C++
点赞 评论 收藏
分享
05-13 18:09
桂林电子科技大学 C++
大三下五月中旬，信安女生，彻底慌了!!!
说出来也不怕大家伙笑话，大学三年基本就是浑浑噩噩混过来的。没参加过什么社团，没打过任何比赛，成绩也就专业前 30% 的水平，唯一的底线就是没挂过科。刚进大学的时候还挺飘的，觉得自己读了个热门的关于计算机领域的专业，未来肯定差不了。结果因为自己的傲慢和无知，对未来完全没有规划，一下子就到了大三下这个最尴尬的节点。看着身边的同学一个个目标明确：考研的早早就泡在了图书馆，考公的已经刷了好几本题，找工作的也已经准备第二段实习了。只有我，连简历都还没开始写，甚至连自己想做什么都不知道。前段时间脑子一热跟风考公，还天真地幻想自己是 "天选考公圣体"，命里带编，学一年就能上岸。结果现实狠...
你投了多少份简历了？
点赞 评论 收藏
分享
04-26 16:11
门头沟学院 后端工程师
点赞 评论 收藏
分享
05-12 20:49
商丘工学院 网络工程师
点赞 评论 收藏
分享
评论
8
7
分享

招聘动态

查看更多

快手

27届实习超多转正机会

27届校招宝典

网申助手插件

校招信息网申列表

全站热榜

更多

创作者周榜

更多
正在热议
更多
# 26届春招投递记录 #
30561次浏览 223人参与
# 妈妈治愈了你哪些脆皮时刻 #
47137次浏览 355人参与
# 27届实习投递记录 #
110564次浏览 1087人参与
# 我的工作日记 #
207449次浏览 1821人参与
# 我的求职总结 #
509816次浏览 7060人参与
# 大学生该如何认清当下的就业环境？ #
178318次浏览 939人参与
# 要毕业了，再不说就来不及了 #
4916次浏览 89人参与
# AI面会问哪些问题？ #
133041次浏览 3321人参与
# 今年秋招还有金九银十吗 #
84894次浏览 518人参与
# 25届非技术实习投递记录 #
159224次浏览 1027人参与
# 我与AI的日常 #
10187次浏览 155人参与
# 如果公司降薪，你会跳槽吗？ #
168574次浏览 968人参与
# 你的秋招进行到哪一步了 #
2801835次浏览 23414人参与
# 你觉得什么岗位会被AI替代 #
65199次浏览 386人参与
# 你以为的实习VS真实的实习 #
144006次浏览 760人参与
# 腾讯工作体验 #
646044次浏览 3912人参与
# 怎么给家人解释你的工作？ #
60390次浏览 224人参与
# 摸鱼被leader发现了怎么办 #
207079次浏览 937人参与
# 滴！实习打卡 #
860794次浏览 6902人参与
# 秋招开始捡漏了吗 #
249080次浏览 1063人参与
牛客网
牛客网在线编程
牛客网题解
牛客企业服务