首页
题库
公司真题
专项练习
面试题库
在线编程
面试
面试经验
AI 模拟面试
简历
求职
学习
基础学习课
实战项目课
求职辅导课
专栏&文章
竞赛
我要招人
发布职位
发布职位、邀约牛人
更多企业解决方案
AI面试、笔试、校招、雇品
HR免费试用AI面试
最新面试提效必备
登录
/
注册
RealBall
美团_测开
发布于北京
关注
已关注
取消关注
@汀丶人工智能:
LLM技术全景图:技术人必备的技术指南
LLM技术全景图:技术人必备的技术指南,一张图带你掌握从基础设施到AI应用的全面梳理LLM 技术图谱(LLM Tech Map)是将 LLM 相关技术进行系统化和图形化的呈现,此图谱主要特点是“专注于技术人视角”,不求从 LLM 产业角度汇聚信息,而是希望让从事相关工作或是想了解 LLM 的技术人有一个快速感知。LLM 技术图谱(LLM Tech Map)从基础设施、大模型、Agent、AI 编程、工具和平台,以及算力几个方面,为开发者整理了当前 LLM 中最为热门和硬核的技术领域以及相关的软件产品和开源项目。核心价值:帮助技术人快速了解 LLM 的核心技术和关键方向。1.基础设施LLM 技术图谱(LLM Tech Map)的基础设施部分主要包括以下几个方面:向量数据库:向量数据库是专门用于存储和检索向量数据的数据库,它可以为 LLM 提供高效的存储和检索能力。数据库向量支持:传统数据库通常不支持向量数据的存储和检索,数据库向量支持可以为传统数据库添加向量数据的存储和检索能力。大模型框架、微调 (Fine Tuning):针对大模型的开发。大模型训练平台与工具1.1向量数据库MilvusPineconeWeaviateChromaQdrantVespaValdFaissScaNNVearchAquilaDBMarqoLanceDBAnnoyNucliaDBDeepLakeMongoDB1.2数据库向量支持pgvectorRedis VectorElasticSingleStoreDBSolrOpenSearchClickHouseRocksetCassandraLuceneNeo4jKineticaSupabaseTimescale1.3大模型框架、微调 (Fine Tuning)OneFlowLMFlowLoRAAlpaca-LoRAPEFTChatGLM-Efficient-TuningLLaMA-Efficient-TuningP-tuning v2OpenLLMh2o-llmstudioxTuringfinetunerYiVal1.4大模型训练平台与工具PytorchBMtraincolossalAITensorflowPaddlePaddleMindSporeDeepspeedXGBoostTransformersApache MXNetRay2.大模型LLM 技术图谱(LLM Tech Map)的大模型部分主要包括以下几个方面:备案上线的中国大模型:有牌照提供服务的大模型,需要注意的是大模型和相应的产品多半名称不同。知名大模型:在全球范围内,已经发布了多款知名大模型,这些大模型在各个领域都取得了突破性的进展。知名大模型应用:LLM 已经在多种应用场景中得到了应用,包括文本生成、机器翻译、问答、自然语言推理等。2.1中国大模型文心一言云雀GLM紫东太初百川日日新ABAB 大模型书生通用大模型混元大模型2.2知名大模型Llama 2OpenLLaMA百川通义大模型文心一言StableLMMOSSDollyBLOOMFalcon LLMChatGLMPaLM 2盘古GPT-4Stable DiffusionDALL·E 32.3 知名大模型应用ChatGPTClaudeCursorMochi DiffusionMidjoureyDragGANBardBing3.AI Agent(LLM Agent)AI Agent是一种能够自主运作并完成特定任务的计算实体或程序。它能够通过传感器感知周围环境,并根据感知到的信息做出决策,然后通过执行器采取行动。LLM Agent 是指基于 LLM 技术构建的智能代理,它可以用于各种任务,比如让机器与 ChatGPT 交互,一层一层挖掘信息,自动化完成任务;比如由机器人构成的虚拟小镇。核心特点自主性:AI Agent具有独立思考和行动的能力,能够在没有人类直接指导的情况下完成任务。交互性:AI Agent能够与环境或其他Agent进行交互,这在游戏、对话系统、推荐系统等场景中尤为重要。目的性:AI Agent设计有明确的目标或意图,其行为是为了实现这些目标。适应性:AI Agent能够根据环境的变化调整自己的行为,以适应新的情境。进化性:随着技术的发展,AI Agent的功能和智能水平也在不断提升。技术特点AI Agent与大模型的主要区别在于,大模型与人类之间的交互是基于prompt实现的,而AI Agent仅需给定一个目标,它就能够针对目标独立思考并做出行动。AI Agent的核心驱动力是大模型,并在此基础上增加了规划(Planning)、记忆(Memory)和工具使用(Tool Use)三个关键组件。类型从工作模式来看,AI Agent可以分为以下三种类型:单Agent:侧重于执行单一任务或一系列相关任务,且不需要与其他智能体进行交互。多Agent:涉及多个智能体之间的协作和交互,以完成更复杂的任务。混合Agent(人机交互Agent):结合了人类和智能体的交互,以实现更高效的任务执行。RivetJARVISMetaGPTAutoGPTBabyAGINexusGPTGenerative AgentsVoyagerGPTeamGPT ResearcherAmazon Bedrock Agents4.AI 编程AI编程是指利用计算机编程语言和技术来创建、训练和优化人工智能算法的过程。它涵盖了数据的收集、清洗、转换以及算法的选择和应用。AI编程是构建未来智能系统的关键,通过模拟人类智能的能力,使计算机能够执行类似于人类的决策和任务。编程语言如Python因其强大的数据处理库和简洁的语法,成为AI编程的常用工具。codeium.vimCursorGitHub CopilotComateStableCodeCodeGeeXTabbyMLCodeArts SnapCode LlamaCodeFuse姜子牙CodeShell5.工具和平台LLM 技术图谱(LLM Tech Map)的工具和平台部分主要包括以下几个方面:LLMOps:简单点说(大家当前在说的),就是“快速从大模型到应用”。大模型聚合平台:汇聚大模型能力,提供服务。开发工具:其它开发相关的 LLM 工具。5.1 LLMOpsBentoMLLangChainDify.aiSemantic KernelArize-PhoenixGPTCacheFlowise5.2 大模型聚合平台(☆)Gitee AISOTA!模型魔搭ModelScopeHugging Face5.3 开发工具v0txtaiJina-AIDecoimgcookQuest AICodiumAICodeium VimProject IDXMakerSuite6.算力LLM 模型的训练和部署需要大量的算力,算力是 LLM 技术发展的关键因素。英伟达昇腾AMD海光昆仑芯天数智芯
点赞 0
评论 1
全部评论
推荐
最新
楼层
暂无评论,快来抢首评~
相关推荐
07-23 08:56
已编辑
广东技术师范大学 Java
关于牛土兵教育割韭菜的事实
1.买课---后悔的开始本人是今年的毕业生,由于今年由于疫情的原因,上半年迟迟没有找到工作,这人吧一着急脑袋就不好使了,病急乱投医可能就是这么来的。时间一点一点的过去,工作还是没找到,钱包的压力越来越大,这时候就想着是不是自己的实力不行,就合计去买些网课看一看提高一下自己,学习的同时再找工作。这时候我就开始在b站看网课,还记着看的是强软弱虚的四种引用,看到了牛土兵的公开课,具体的内容我记不太清了,反正有一段是牛老师点评简历的一段,什么上天入地,50w 80w年薪的把我虎的一愣一愣的,只要报了他的课,学完出来这些都是小case,这些话就像洪水猛兽一样冲击着一个正在找工作的毕业生的内心,他心想:&...
爱坤ikun:
19世纪美国淘金热,挖到金子的人又有多少呢,但是卖淘金子工具的人赚的盆满钵满
点赞
评论
收藏
分享
07-21 20:59
清华大学 机械设计/制造
机械本科生毕业可以往哪些方面发展?
结合当前行业趋势和市场需求,以下是六大核心发展方向及具体建议:一、传统制造领域:技术根基扎实1. 机械设计与研发 岗位方向:机械设计工程师、结构工程师、CAE仿真工程师。 核心技能:熟练使用SolidWorks/AutoCAD(必备)、有限元分析(ANSYS)、工程力学分析能力。 行业分布: 汽车制造:新能源汽车三电系统(电池/电机/电控)设计,如比亚迪、特斯拉(起薪12-15K); 航空航天:航空发动机结构设计、强度分析(如中国航发商发,薪资体系2025年提升); 精密仪器:科学仪器机械结构开发(如海能技术,月薪10-15K)。2. 生产制造...
投递迈瑞医疗等公司10个岗位
点赞
评论
收藏
分享
06-25 09:33
厦门大学 Java
27届求拷打简历
是不是简历的问题啊,找个日常实习,小米,小红书,快手,米哈游秒挂,其他一直在泡着,投了一个多星期还是0面试
球球别拷打俺了:
现在日常估计没啥hc了,等到八月多估计就慢慢有了。双九✌🏻不用焦虑的
投递快手等公司10个岗位
点赞
评论
收藏
分享
06-22 21:02
广东药科大学 Java
请问这是在招奴隶吗
这种公司就赶紧避雷吧,有bug半夜也要起来?还学习腾讯,自己几斤几两不清楚吗
Java大菜狗:
纯纯招黑奴,一天还不到两百那么多要求,还不迟到早退,以为啥啊,给一点工资做一堆活,还以不拖欠员工工资为荣,这是什么值得骄傲的事情吗,纯纯***公司
点赞
评论
收藏
分享
07-23 16:58
门头沟学院 嵌入式软件开发
疫情毁了我的竞赛梦
本人电子信息工程专业,在大二的时候好不容易鼓起勇气参加了电子设计大赛,花了三个月的时间速成了51,32单片机和一些硬件知识,结果在开赛前疫情来了,我在网上买的模块和器件全卡在半路上了,最终比赛改成线上举行,我也没有实物,就只能靠着PPT向评委展示我的“伟大构思”,最后草草收场
校园里的破防时刻
点赞
评论
收藏
分享
评论
点赞成功,聊一聊 >
点赞
收藏
分享
评论
提到的真题
返回内容
全站热榜
更多
1
...
百度提前批一面 7.24
1.3W
2
...
字节复活赛
9212
3
...
字节生活服务(杭州)一二三面(等HR or 挂)
4425
4
...
不懂来大厂实习究竟能学到啥?
4138
5
...
滴滴提前批面经
3761
6
...
百度提前批一面:面试官居然让我手撕两数之和???最奇幻的一轮面试,结束还说.......
3443
7
...
入我滴滴!早十晚六 !
3271
8
...
终章
2905
9
...
团子呆了一个多月,想走的欲望达到的了顶峰
2576
10
...
字节实习第三天10点下班,哭了
2560
创作者周榜
更多
正在热议
更多
#
哪些公司开提前批了?
#
27994次浏览
268人参与
#
入职以后才知道的校招谎言
#
88715次浏览
583人参与
#
风评不好的公司,你会去吗?
#
63640次浏览
450人参与
#
华子oc时间线
#
1244648次浏览
6487人参与
#
哪些公司校招卡第一学历
#
70472次浏览
280人参与
#
校招第一份工作你干了多久?
#
95317次浏览
423人参与
#
实习如何「偷」产出?
#
53067次浏览
1355人参与
#
除了主业以外,你还有哪些其他收入?
#
12672次浏览
202人参与
#
不卡学历的大厂有哪些?
#
30749次浏览
232人参与
#
机械人,你的第一份感谢信是谁给的
#
30616次浏览
310人参与
#
校招阶段,学历VS技术哪个更重要?
#
18297次浏览
188人参与
#
职场新人体验
#
27350次浏览
251人参与
#
研究所笔面经互助
#
78591次浏览
483人参与
#
工作丧失热情的瞬间
#
294156次浏览
2372人参与
#
腾讯音乐求职进展汇总
#
98295次浏览
571人参与
#
你的秋招第一场笔试是哪家
#
148312次浏览
1485人参与
#
社恐入职新公司如何融入团队
#
12090次浏览
63人参与
#
华为开奖那些事
#
4094826次浏览
24608人参与
#
校园里的破防时刻
#
12084次浏览
128人参与
#
Offer比较,你最看重什么?
#
191905次浏览
1308人参与
牛客网
牛客网在线编程
牛客网题解
牛客企业服务