首页
题库
公司真题
专项练习
面试题库
在线编程
面试
面试经验
AI 模拟面试
简历
求职
学习
课程
专栏·文章
竞赛
搜索
我要招人
发布职位
发布职位、邀约牛人
更多企业解决方案
在线笔面试、雇主品牌宣传
登录
/
注册
牛客684538070号
C++
发布于浙江
关注
已关注
取消关注
@屋顶的闪闪星光:
我是软件开发,想搞大模型
先抛个问题,像恒生、金蝶这类细分领域内的软件厂商龙头或者中小型的软件&互联网公司,他们想使用大模型时,要怎么办?其实如果往深处挖一挖,这个问题就把大模型产业链中的各种角色都炸了出来,这篇文章整理梳理一遍,并聊一下软件技术人员在里面的就业机会。整个大模型产业链中的参与者可以被分为4种角色,分别是:应用开发商、大模型厂商、云计算厂商、GPU厂商。这4种角色呈现倒金字塔结构,即,从应用开发商到GPU厂商,离具体的应用场景和终端客户越来越远,越来越远离业务更像纯技术人员,入门的壁垒越来越高,就业岗位越来越少。 举个例子,恒生电子这种软件企业,如果想在他的产品中增加一个投资理财智能对话机器人,只需要向大模型厂商买一个私有化的产品解决方案,再把自己积累的投资理财领域数据导进去做微调,最后包装成一个微服务供对话机器人的开发工程师调用就可以了。同样的例子还有很多,市场上绝大多数企业都是这个玩法,区别就在于某些特殊行业,金融、政府、能源、运营商等因为监管、数据安全的考虑,有自己的私有云,需要私有化部署,而大量中小企业使用公有云服务。假如哪天我去创业,你们可能就会看到一个以我自己这个IP"屋顶的闪闪星光"命名的聊天机器人,向大家提供软件技术领域的职业发展和就业选择的服务,到时大家把自己的offer和个人情况发给它,它就会告诉大家它的建议和背后的逻辑。上面这些都算是大模型的应用开发商。 当然了,大模型的微调是个很重的活,不是技术壁垒高,而是要做的事情很多很琐碎并且影响到最终的产品能力。比如,首先要选择合适的数据,数据的采集、清洗、选择都需要做大量的工作,其次微调也需要成本虽然不大,再次模型需要不断迭代,因为有新的数据在不断产生。随着大模型的应用越来越多,promotion工程师应该会成为企业的智能服务产品的标配,毕竟,想依靠用户端输入靠谱的promotion有点难。想一想你是医生,给一个病人在看病时其实只有短短1、2分钟的时间在做决策,大部分时间其实是在跟病人交流"套话",而碰上一个逻辑清晰、沟通顺畅的病人,对医生来说就是最大的幸运了,绝对不是常态。 站在软件技术人员就业角度来看,在这类企业里面的人就是以应用为主,研究好在自己的业务场景下,用自己所在业务线的数据如何使用好大模型是最关键的,只要找好切入点,搞出来标杆应用场景,就能刷绩效、晋升了。如果考虑到给自己简历增加些亮点方便跳槽、涨工资的话,网上找些入门级的教程来看,基本了解大模型是怎么运作,各个环节的工具如何使用,如何调用大模型服务就好了,去知名的大模型厂商那里开个账号充点钱,用它做几次微调就会有比较深刻的体会,找到一些感觉了,整体比较简单。上半年面试时碰到一个互联网中厂的软件开发,他们团队投了一个实习生进去搞了2个月就在一个创新的业务场景下把基于微软大模型的对话给跑通了,整体的门槛也不高。上周跟一个大厂的朋友聊,前段时间他在做晋升评委时就碰到一个毕业一年多的工程师,大厂内部发布大模型内测之后,这个人就借助大模型把自己的一部分工作改造了下,效果未知,但过程很顺利,成本不高。说到底,毕竟这都是应用大模型。学习方面,国外看Hugging Face,国内可以看下阿里云推出的魔搭社区,是"中国版的Hugging Face"。 跟应用开发商相比,大模型厂商才是重活,技术门槛、资金门槛都很高。中国市场上的大模型厂商主要分成几类:草根创业,清华系的智谱、MiniMax等名星创业,王小川的百川智能、李开复的零一万物、王慧文的光年之外等知名企业,昆仑万维、科大讯飞、VIVO等科研机构,复旦大学的MOSS、清华大学的GLM等。大厂自建,阿里云的千问、百度的文心一言、腾讯的混元、华为的盘古、字节的云雀等。 这里的玩家看起来挺多,其实相比其它风口上的创业都来说,真的极少了,派系也不算特别复杂,原因就是开发、训练大模型的成本太高了。要么是王小川、李开复、王慧文这种大佬起步就自己先带着几亿入场,要么就是大厂自己重金投入的战略方向,要么就是复旦、清华这种有科研平台支持的。而那些背后没有资本大佬支持的创业企业,都是ChatGPT这波爆发之前就在做的,像智谱AI这种真正的草根创业早在2020年就借助清华的技术成果搞大模型探索,而MiniMax的创始人作为商汤的技术副总,也是在21年预判到技术发展之后才进场。因为如果是22年底ChatGPU爆发之后才进场的话,跟那些自带着光环入场的玩家相比,草根创业者绝对融不到钱、挖不到人、买不起GPU。 这类企业核心就做几件事:搞数据、挖市场上分布在各个领域的成熟算法人才、搞GPU、搞公有云或私有云的商业化。从软件技术人员就业角度来说,如果你是做模型的,工程、算法,都可以无脑入,是个很好的积累,不管这个企业几年之后是不是GG,只要干过这条链路,以后就会是市场上抢手的人才。因为从整个形势上判断,23年在卷模型,24年之后大概率就会进入应用爆发期了,企业只要有自己的数据,再买一些相对成熟的大模型服务,或者直接把开源的优秀模型部署起来,就能发布一个不错的产品。而不管是哪一种,对有大模型经验的人都是极度渴望的。从软件技术人员就业角度来看,我最喜欢百花齐放、百家争鸣了,资金火热、大大小小公司扩张,你的履历只要跟大模型沾点边,薪资就能翻着跟头往上涨。 不过这里要小心一些套壳的公司,比如做微调、做工具的,他们不会自己做大模型,而是服务一些开发能力弱或者自己开发性价比低的应用开发商,市场上来说有存在价值,但这类企业都是以中小企业为主,属于典型的蹭风口创业公司。企业本身没有好坏,只要市场有需求,就会有人做,从软件技术人员就业角度来说,选择适合自己的就OK了。像这种套壳公司,如果大家是有几年工作经验的,可以根据自己实际情况判断一下,如果是应届生千万不要去。有任何问题,欢迎私信我,互相交流。 不管是数据处理、模型训练,大模型开发商都需要大量的机器资源,这种事他们自己是干不了的,必须找云计算厂商。前段时间阿里云的董事长蔡崇信说,全国80%的科技企业,以及超过50%的AI大模型是跑在阿里云上的,阿里云更是搞出了魔搭社区来配合。百度自己也说,千帆大模型平台有万家企业客户了。大模型厂商与云计算厂商的关系是怎样的?简单来说,云计算厂商提供算力(说人话就是把GPU、CPU虚化成可灵活调配的云计算资源服务)、生态能力(说人话就是做各种工具降低云计算资源服务的使用成本),而大模型厂商就是云计算资源服务的使用方。当然了,因为国内几个真正有核心技术的云计算厂商自身都是搞软件产品服务成功之后,再把积累的技术开放出来成为云厂商的,所以不管是为了自己的业务服务,还是为了把大模型集成到自己的云计算平台上成为云服务对外售卖,他们都搞了大模型。所以像阿里云、百度智能云、腾讯云、华为云这些玩家,既是大模型厂商又是云厂商。 当然了,云厂商这个生态本身比较复杂,除了上面这几个有核心技术的大厂之外,还有移动、联通、电信这几个电信运营商这种做市场、项目资源导入的玩家。电信运营商虽然不像云厂商这种靠核心的产品、技术、服务起家慢慢打市场,但是央企的地位在那里摆着,叠加上在全国各省、市、区县庞大的销售网络和客户网络,趁着国家搞数字化这盘大棋,从政府、国企、事业单位手里接下了无数的数字化项目,营收涨个不停。虽然这几个玩家搞不起大模型这种核心技术,但从项目入手,只要业务跑起来,核心技术也是可以慢慢构建的。话说回来,现在市场上哪家大厂不都是先有了业务的增长,带动了技术的投入,最后才变成真正有技术的大厂。 从软件技术人员就业来说,如果想去搞大模型这条产业链路上的技术,最好就去几家既有大模型核心技术又对外提供云服务的云厂商,可以看到真正产业链的全貌,其它云厂商也就做做配套。当然了,大模型厂商和大模型应用开发商谁也不会绑死在一家云计算厂商,商业玩得就是一个脚踩多只船、互相博弈,不可能出现"兄弟我把后背交给你"的事,就像微软,除了支持OpenAI之外,也有自己的大模型。所以没有大模型的云厂商给别人做做备胎、提供计算资源也是有很多机会的。 大模型越多,上层应用越多,云计算厂商的生意越好做,毕竟云计算的玩家就这么几个。云计算厂商看起来是靠核心技术,其实商业角度上拼得是规模效应,所以争夺客户是个很重要的事,不但是营收问题,还是长期竞争力的问题。 我之前讲过一个逻辑,同样一个百人的研发团队,每年把容器调度效率提升1%,这个事情有没有价值?如果放在阿里云、华为云这样的公司就有价值,因为他们的容器是百万级,后面是千万级,可如果放在青云、优刻得这样的中小云计算厂商呢?就会把他们公司给拖垮,因为盘子太小,没有规模效应,养不起这么贵的团队。以上逻辑只适用于大型云计算厂商,可以撑住价格战PK,中小云计算厂商就比较危险了,比如,青云、优刻得等,持续亏损、市值几年间缩水了7、8成。所以,从软件技术人员就业角度来说,一定要避坑,如果没有职位上的溢价,给再多待遇都不要去中小型的云厂商, 除了规模效应之外,那这些头部的云计算厂商之间还会PK什么呢?论数据,大家都是顶级业务,都不缺数据,论算法,理论是公开的、砸工程师就好了,除了技术积累、研发速度、组织能力这些我们外人看不清细节的变量之外,还有一个最大的变量是GPU。当下,云计算厂商的算力依赖的GPU绝大多数都是美国的英伟达。虽然中国很早就有厂商干GPU,从中美贸易战开始这个过程也加速了,但不管是设计、生产、客户、软件生态,都不是短短几年可以追平的。对国内GPU厂商来说,不管是壁仞科技、摩尔线程、沐曦、寒武纪这些近几年看到AI和算力市场机会而成立的创业企业,还是实力派的景嘉微、华为昇腾、海光等,都需要长期抗战。但从另外一个角度来看,这也是一个很大的机会,中美关系硬生生给中国开出一个"国产替代"的大市场。放眼望去,车规芯片领域的地平线、黑芝麻,在一点点残食高通、Intel这类外企的市场,百度在前段时间买了一批华为的GPU,金融等敏感领域更是提出明确的国产CPU替换节奏。从软件技术人员就业角度来讲,芯片公司除了设计芯片之外,更需要建生态,像英伟达的CUDA,就是核心竞争力,去芯片公司做工具链也是做BSP、嵌入式的一条路。
点赞 53
评论 9
全部评论
推荐
最新
楼层
滴滴
校招火热招聘中
官网直投
相关推荐
BAT后端A师兄
05-14 17:37
已编辑
后端
【科大讯飞】Java实习一面面经|讲解|0514
今天挑选一篇【科大讯飞Java实习一面面经】,给大家做讲解分析~ 感谢这位同学的分享,预祝Offer多多~~~ 原贴链接 本文也是 《热门面经讲解》 专栏系列文章之一,大家可以点跳转链接,加个关注和订阅,我会持续更新~ 自产《大厂后端Top100面试题讲解》对本篇面经题目覆盖率:5/5 = 100% 自产《大厂后端Top200面试题讲解》对本篇面经题目覆盖率:5/5 = 100% 八股问题 1. ThreadLocal类怎么避免内存溢出(泄漏)? 解析 属于高频考题:自产《大厂后端Top100面试题讲解|第35题》 所属专项:Java|Java并发 专项考察占比: 【Java】...
热门面经讲解
24届软开秋招面试经验大赏
点赞
评论
收藏
转发
卜白_
03-21 09:44
新乡医学院三全学院 计算机类
什么意思?🐒
我就问你那两个句号什么意思?😂😂😂#boss直聘# #hr# #牛客在线求职答疑中心#
牛客在线求职答疑中心
点赞
评论
收藏
转发
茅不易
04-22 20:42
民办三本 计算机类
把boss个人简历改成这个后(搞笑🤪
一个月前投递的hr联系我了今天连续oc两个
点赞
评论
收藏
转发
大高佬
05-12 17:41
奇安信_信息安全工程师(准入职员工)
奇安信暑期实习内推
奇安信2025届暑期实习内推码【DS5mfqSV】4.22启动,米哈游,可转正!快来加入网安一哥!公司简介国资背景,科创板“网安一哥”,网络安全领域top1,新一代网络安全领军者!【招聘岗位】安全类、研发类、测试类、营销类、产品类、技术支持类【招聘对象】25届实习生奇安信内推码:DS5mfqSV奇安信内推码:DS5mfqSV奇安信内推码:DS5mfqSV(“虎符星计划”即暑期实习)【内推 | 推荐码】DS5mfqSV【直达内推投递页面】https://app.mokahr.com/campus_apply/qianxin/29182?recommendCode=DS5mfqSV#/jobs投递...
投递奇安信等公司7个岗位 >
点赞
评论
收藏
转发
点赞
收藏
评论
分享
回复帖子
全站热榜
1
...
盲审已过,答辩已过,工作已签
1.9W
2
...
实习难求——做个总结
1.1W
3
...
聪明人看的Java后端入门路线(应该比大多数高手给的靠谱)
9110
4
...
给25届同学: 永远相信美好的事情即将发生
6394
5
...
腾讯一面凉经 5.16
5796
6
...
26届菜鸡投了一个月大厂日常,0面试绷不住了呀。听说9月后机会可能会多起来,感觉要被迫继续沉淀了之前和导师聊,说找到大厂实习的话可以去,对就业帮助大,小厂的话就emmm投了快一个月,老板上打招呼绝大数
4982
7
...
25届暑期实习中后期更容易拿offer
4890
8
...
pcg qq 一面
4662
9
...
二本漫漫求职路......
4209
10
...
为什么选择做测试开发
3457
正在热议
#
牛客帮帮团来啦!有问必答
#
766092次浏览
12095人参与
#
海康威视求职进展汇总
#
96387次浏览
1164人参与
#
你的工作大概什么时候入职?
#
3703次浏览
48人参与
#
非技术岗是怎么找实习的
#
76544次浏览
1425人参与
#
实习生应该准时下班吗
#
79125次浏览
586人参与
#
产品实习,你更倾向大公司or小公司
#
38127次浏览
586人参与
#
Offer比较,你最看重什么?
#
52114次浏览
501人参与
#
找工作中的意难平
#
192717次浏览
3419人参与
#
学历对求职的影响
#
137461次浏览
1567人参与
#
面试等了一周没回复,还有戏吗
#
41572次浏览
517人参与
#
今年形式下双非本找得到工作吗
#
7894次浏览
163人参与
#
本周投递记录
#
200918次浏览
5112人参与
#
春招已经启动啦 硬件uu开始投了吗?
#
86722次浏览
678人参与
#
百度工作体验
#
24224次浏览
248人参与
#
实习与准备秋招该如何平衡
#
175215次浏览
3155人参与
#
华为求职进展汇总
#
526335次浏览
5020人参与
#
2022届毕业生现状
#
322444次浏览
4453人参与
#
考研失败就一定是坏事吗?
#
20885次浏览
218人参与
#
0offer是寒冬太冷还是我太菜
#
419714次浏览
4859人参与
#
投递实习岗位前的准备
#
616240次浏览
10980人参与
牛客网
牛客企业服务