西门子AIGC应用开发

想知道各位牛友如何看现在市场上的传统后端开发和“llm应用开发”呢，因为llm应用开发其实市场上做的工作内容参差挺大的，我大致分了几类供参考，如有不对，轻喷1.第一种最接近后端，调大模型api，然后还是搞后端那一套，无奈很多公司喜欢打着这个噱头，其实跟后端无异。2.做agent，核心工作就是prompt，rag，用低代码平台搭工作流、智能体这种，这种去了感觉失业得最快。3.搞微调，这种门槛也不是很高，但比第二种好多了，涉及模型微调、指标评估、造数据啥的。4.预训练，这种都是算法招进去的，门槛有点高，感觉危机感没那么高，虽然说也是搞数据清洗的多。5.模型压缩、推理加速啥的，这种偏底层 门槛也很高，个人感觉很好，就是要求高。大概这五种，依次从后端到算法，市面上很多名字，大模型/ai/ai agent应用开发太多了，但工作的内容差别超大。如果说涉及到的主要工作就是洗数据、造指标、微调、prompt、rag之类的或者再加一点agent，那感觉护城河似乎没那么高，甚至感觉可能还比不过java(说法可能有些绝对)，总结来说就是感觉危机感很重，想知道大伙是怎么看的，作为在校生该如何做选择呢？

各位牛友，现在已经6月份了，组里不放实习，想知道哪个路线比较合适bg 2本9硕实习背景：组里不放实习，老板说发A才能去，但是做的是系统方向，发A哪有那么容易（组里硕士没有发过A的，所以大部分都走国央企或者选调了，每届1个私企都是华子什么的）成果：一篇专利，2篇C、1A系统会议（排名3-4）方向：模型适应、端侧推理性能优化（能耗优化、延迟优化、DVFS）和其他学校的牛友讨论推荐大模型 infra 方向，但是了解了一下好像很吃实习移动计算方向算是有些基础，所以比较倾向手机厂，不知道像耀子这种（AI平台/性能优化工程师）算不算算法岗，要是A会门槛鼠鼠铁白给移动计算方向的工作真的太少了，大厂hc都很少，要很出众的能力和科研才能进，何况组里还不给实习，只能看看这些手机厂有没有过来人或者懂行的牛友帮忙分析一下是AI岗（infra或者移动计算）还是猛冲java呢？实习投的晚了，5月底才投，想着水水经验，想去的都不敢投，怕脏面评；投了的筛简历筛麻了，快手直接简历给筛挂了，其他放实习的同学不知道是投的早还是因为选的java岗，都大把面试，鼠鼠直接道心破碎离秋招没几个月了，选哪个比较合适呢？求牛友出谋划策

没录制，就凭记忆写了，顺序不一定对无手撕自我介绍介绍参加的ai比赛介绍两个项目问雪花算法第二个项目负责的模块项目开发中遇到的问题，怎么解决的？(jwt,protobuf的数据类型问题)说一下用到的saga模式知道RAG吗？说说prompt工程做项目的时候怎么沟通合作的？反问我的总结就是吹牛逼的感觉好爽😎

llama的结构，自己部署训练的时候用了多大的模型 几张卡使用RAG向量数据库的时候有什么额外的处理，wordembedding用的什么模型问了一下为什么目前主流的模型都是用的decoder-only结构问了问项目的内容，具体模块为什么这么使用代码让写了一下self-attention模块，没有torch库，可以写一下伪代码问了一下attention模块里的mask应该加在哪里，怎么加，mask是什么形式，如果加在softmax之前，值应该怎么设置然后问了考官一些问题