05-06 11:43 中山大学 算法工程师 发布于山东
关注
大模型快速入门路径
今天老师整理了大模型入门的几个学习步骤、目标和需要掌握的基础知识，供初学者快速掌握基本路径。
1️⃣前置知识： Python 基础、 Linux 基础
🌟学习内容
1.熟练掌握 Python 语言，熟悉常用的
Python 库和工具，如 NumPy 、 Pandas 、 Scikit - learn 、 PyTorch 等。
2.具备 NLP 相关的基础知识，包括文本预处理、分词、词性标注等。
3.对大模型有一定了解，包括
Transformer 模型的结构和原理、基于注意力机制的自然语言处理技术等。
2️⃣Step1:NLP相关基础知识
🌟学习内容
1.了解文本预处理、分词、词性标注、命名实体识别、词向量表示等基础知识。
2.掌握机器学习中的数据预处理、特征提取、分类、回归等基础算法，并了解其在 NLP 领域的应用。
3.了解大规模 NLP 任务中的常用技术和方法，如深度学习中的 Transformer 模
型、 BERT 、 GPT 等。
3️⃣Step2:GPT API 调用及 Prompt 设计
🌟学习内容
了解 GPT API 的调用方式和基本操作，熟悉 Prompt 设计技巧和要点，能够结合自己的任务调用 API 实现对应的任务代码。
4️⃣Step3:模型微调（ Fine - tuning )
🌟学习内容
了解常见的微调模型的基本流程和原理，熟悉数据集的构造、训练、评估等过程，能够独立构建 QA 对，在服务器上对模型进行微调。
5️⃣Step4: RAG （外挂数据库）
🌟学习内容
RAG 作为目前最火的一个 LLM 落地方向，可以结合私有数据（表格、 word 、 txt 、 pdf 、数据库皆可）实现本地问答，且训练成本较低，可以快速实现效果。
✴️有需要提升面试能力和辅导项目的同学可以后台联系我～
1️⃣前置知识： Python 基础、 Linux 基础
🌟学习内容
1.熟练掌握 Python 语言，熟悉常用的
Python 库和工具，如 NumPy 、 Pandas 、 Scikit - learn 、 PyTorch 等。
2.具备 NLP 相关的基础知识，包括文本预处理、分词、词性标注等。
3.对大模型有一定了解，包括
Transformer 模型的结构和原理、基于注意力机制的自然语言处理技术等。
2️⃣Step1:NLP相关基础知识
🌟学习内容
1.了解文本预处理、分词、词性标注、命名实体识别、词向量表示等基础知识。
2.掌握机器学习中的数据预处理、特征提取、分类、回归等基础算法，并了解其在 NLP 领域的应用。
3.了解大规模 NLP 任务中的常用技术和方法，如深度学习中的 Transformer 模
型、 BERT 、 GPT 等。
3️⃣Step2:GPT API 调用及 Prompt 设计
🌟学习内容
了解 GPT API 的调用方式和基本操作，熟悉 Prompt 设计技巧和要点，能够结合自己的任务调用 API 实现对应的任务代码。
4️⃣Step3:模型微调（ Fine - tuning )
🌟学习内容
了解常见的微调模型的基本流程和原理，熟悉数据集的构造、训练、评估等过程，能够独立构建 QA 对，在服务器上对模型进行微调。
5️⃣Step4: RAG （外挂数据库）
🌟学习内容
RAG 作为目前最火的一个 LLM 落地方向，可以结合私有数据（表格、 word 、 txt 、 pdf 、数据库皆可）实现本地问答，且训练成本较低，可以快速实现效果。
✴️有需要提升面试能力和辅导项目的同学可以后台联系我～
全部评论
吃饱饱心情好
门头沟学院 人工智能
Mark学习
陀思妥耶夫斯基基
中国科学技术大学 Java
mark
相关推荐
查看10道真题和解析 点赞 评论 收藏
分享