大模型应用开发教程

本身是想找算法岗工作的，无奈没有论文，根本不敢梭哈，提前布局找后端，结果骑驴找马大失败……4个意向，简历主要是java后端和Python算法的，投企鹅之类的后端无一例外全部1面寄，投递的算法岗简历过筛寥寥无几，除此之外，一脸寄相：天猫国际hr面挂、滴滴2面挂、若干公司1面挂。。。本来就想着华为算法岗实习增加一点秋招进算法岗面试的概率，但是后来又收到阿里系转正的实习，陷入了转正求稳还是梭哈算法困难境地…阿里发的晚，因此接了华为意向保了offer，要拒还不太好拒绝。。。1 华为2012实验室 算法岗 定位视觉算法、三维重建生成 和少量自动驾驶2 阿里国际 大杂烩岗位，各类开发岗都有，最后没有后端hc变成测开，研发ai for test组件3 阿里文娱 java岗 某视频平台服务端4 金山 服务端实习 主要是c++和go

努力跟积累是有用的啊。想当初投了成百上千个简历连个面试机会都没有的时候都快抑郁了。虽然最后还是拿了两三个外包offer吧。当时就感觉这辈子跟大厂无缘了，可能就是外包外包之间来回跳吧，这辈子一眼看到头的情况。如今没想到拿下了阿里淘天的offer。也有一定的运气成分在吧。我把握住这个机会了。

大家很多人私信我大模型应用开发具体是做啥，正好我讲讲在字节实习3个月+的体验。现在以字节为例我看很多岗位，其实大模型应用岗位已经被纳入后端开发（大多还是属于开发序列，至少我看不在算法序列）当中了，所以总的来说二者并没有特别明显的区别，起码在公司的角度来看。以我自己为例，我也是面的后端岗位然后进来做Agent的开发，Agent开发暂时不涉及模型的训练，最多包含一些模型的微调（而且公司有平台）。总的来说，Agent开发主要是搭建workflow，主要涉及Rag、微调、Mcp、Prompt这些方面，包含一些技术栈py：langgraph、langchain、langSmith，java: SpringAI、langchain4j？，所以我觉得后端的同学直接投问题不大，但是需要python or java or 大模型基本知识的landing。我之前也没接触过类似的知识，还在字节里面有LLM学习季的好东西，包含了大模型的基本知识Transformer、Prompt工程、Rag实战等等各种基本知识的解释和实操，让我非常循序并循序渐进的了解了这方面的知识，并且燃起了对大模型学习的兴趣，不得不说这一点还是很值得学习的。其次，就是在实习过程中，大家讨论的都是如何提高大模型产生的效果、以及有没有更加方便的Agent工具能够参与 or 使用提效，整体氛围很不错，而且都是去聊一些比较新的东西，例如之前刚出的Agent2Agent协议。在我看来，Agent主要是以Multi-Agent写作文的形式完成一系列任务，例如Deep-Research利用搜索、爬虫等工具，获取想要查询的网页并爬取文章内容，并且生成一篇分析报告，包括了一些意图识别、任务规划、记忆、工具调用等。在这个过程可以加很多环节去提高分析报告的效果（在Prompt的层面），例如反思、自问自答、知识库、human-in-loop等等，我觉得设计这些环节还是需要很多经验的，目前很多需要参考了类似的设计有比如cursor等。至于学历的要求，不知道现在岗位需不需要硕士的学历，但是我看来其实本科也能做，包括我在的组很多Agent内容在Cursor、Trae等工具的辅助下，前端也参与了不少（没错，前端也写Agent）。所以现在在各种Agent工具不断出现的今天，大厂更加需要“能够熟练使用AI工具的人”。举例，本组有个本科校招生，ld说后续会让他参与LLM的开发内容。当然，以上是我3个月浅薄的理解，我其实也看了不少内容的一些技术文章，整体来说大概是个这么情况，感觉技术壁垒不深，但是基于目前资料跟Java（黑马）比有所欠缺的情况下，还是筛掉了相当一部分人，感觉可冲（感觉比较缺人，至少我们组人很缺）；但是基于我之前很多段实习都是Java开发，我觉得大模型应用更在乎大模型的效果而不是性能，可能还是关注点会跟Java开发有一些区别，优先级不一样，很少用到一些中间件来做啥，目前我在整个过程中只用过Redis来缓存stream流。实习体验：1.需求：字节跟我实习过的其他大厂有很明显的区别，他是直接安排活让你去做，至于你做不做得了，这个就另说了（即使有mentor的帮助）。有个群友举的例子很好“就是把一个不会游泳的初学者丢进水池里，如果活下来了，就学会了哈哈”。所以在我很久没写py、langchain等内容的基础上、没在字节做过任何需求的时候，让我开发了一个我认为很大的一个需求，大概6-7000行（两周），我为了不延期，主动加班到10-11点，才在排期前做完。。2.福利：经历了字节下午茶的LastDay目前已经没啥福利了，零食、水果还是不错；其次，允许实习生出差，刚来没几天就团建 + 出差去北京（出差了一周），那段时间还是很滋润的，在北京也小小旅游了一下（带着女朋友一起去了，当然她的不报销，只是住在一起）3.博客：当初在快手实习的时候，基本上看遍了Kstack的文章，但是在字节我目前还没看完，而且受益匪浅，感觉文章整体含金量要高不少（可能快手现在也变好了，不尬黑）。4.带教：mentor和ld对我很好，也让我进入了一个新的领域，目前正好考虑通过这次机会往大模型应用甚至大模型算法转型.正好有学长跟我说过，“阿里很值得去实习体验一次，哪怕不留下来”，我觉得“字节也很值得去体验一次，哪怕不留下来”，之前在前几家公司反而没这么深刻的感悟。如果对各位有帮助的话，求求🥺给朵小红花，有问题可以在评论区交流～

研二上学期拿到了日常实习的offer，导师直接说要是去实习，直接延毕。暑期自己又偷偷找了实习，又找到了两个大厂实习，都是后端开发岗位，自己说自己压力太大，想请假，导师直接拒绝我请假，说要是请假毕业自己弄，不给我签字。来学校两年，打杂干了一年半，小论文拖着不让发，哎...