大模型快速入门路径

算法： 一、算法题 & 代码思路滑动窗口最大值的解题思路是什么？为什么选择使用双端队列？双端队列维护了哪些内容、具备什么性质？口述讲解这道题的整体思路（被judge怀疑写力扣不够多了）八股：二、大大模型模型预训练流程一个开源大模型在预训练过程中会经历哪些步骤？你是从哪些方面、哪些渠道学习并理解这些预训练知识的？（可能这里开始质疑我有点背答案的逻辑了）BERT 和 GPT 架构最核心、最本质的区别是什么？四、简历拷打开始从项目去拷问：你所理解的视频理解是粗粒度总结，还是细粒度描述？能否捕捉动作的开始、过程、结束？固定摄像头场景单一有限，用大模型做事件判断性价比是否不高？简单任务（如闯入检测）是否用小模型、路由、MoE 架构更合适？这种情况下，使用视觉大模型（VLM）的意义在哪里？用大模型做数据预标注，为后续小模型服务，这套思路是否合理？大模型在工业落地中，真正的性价比体现在什么地方？五、反问1，公司业务是否会涉及视频细粒度动作理解？不只是判断 “动作是否发生”，还要精确识别动作发生次数，避免重复扣费、误扣费这类问题。回答：确实有这类细粒度视频理解与识别需求，核心是精准、不重复、不误判。目前业界 / 团队常用方案：用多个专用小模型组合，针对特定任务做定制化小模型。采用 MoE（混合专家模型） 架构，但不是简单路由，路由逻辑需要专门设计，用来解决特定任务。现在也在探索：利用大模型 / 大语言模型的能力，提升复用性，希望换任务也能快速适配，减少重复开发，因此在尝试搭建新架构。2. 关于细粒度视频数据 & 数据集构建训练这些细粒度识别小模型时，数据和标注是怎么获取 / 构建的？回答：采集行业真实数据主要流程：采集行业真实数据 → 交给外包公司标注（YOLO、分割等常规标注）。模型上线部署后，把线上回传的困难样本 / 错误样本再人工补充标注。整体思路：先众包 / 外包大规模标注再人工筛选、修正难例，是业界比较经典的做法。3，面试官一般怎么判断面试者有没有背稿、有没有用辅助工具？回答：看表达一致性真实做过的人，叙述风格、逻辑是统一的；背稿 / 套话，容易在切换问题时风格断裂、内容漂浮。看是否聚焦问题本身真懂的人会顺着问题深入聊；套答案的人容易答非所问、逻辑不连贯。紧张很正常面试少、科研多的同学容易紧张，多面几次就会像日常学术聊天一样自然。建议把面试当成和老师 / 教授学术讨论，懂就说懂，不懂就坦诚，重点看人岗匹配。大概率寄了，就当聊聊天

1. 介绍一下你做过的一个项目2. LoRA 的原理以及初始化方法是什么LoRA 的核心是低秩适配。对于原始权重矩阵 (W \in \mathbb{R}^{d \times k})，全参数微调直接更新整个 (W)，成本高、显存占用大。LoRA 认为下游任务需要的更新往往落在一个低秩子空间里，所以把增量写成：W' = W + \Delta W = W + BA其中，并且r≪min⁡(d,k)r≪min(d,k)。训练时冻结原始参数 (W)，只训练 (A) 和 (B)，这样参数量和优化器状态都能显著下降。初始化时通常让 (A) 随机初始化，(B) 初始化为 0，或者相反。这样一开始 (\Delta...

浅谈一下，个人理解跑路互联网几大岗位学习路径🎇非技术岗产品+运营：业务八股，主要是实习，办公软件使用，软实力更多一点，学历和实习其中产品需要：prd，原型图，sql入门就行，主要是查询语句，几个小时的速成即可，excel的vlookup等，从0-1入门产品经理的网课，运营需要：主要还是偏软实力的运营相关课程数分：sql（黑马，python，bi画图工具+业务八股，ab实验之类的，也是主要是实习，学历和实习 40hAi产品：python，pytorch，机器学习，深度学习理论与实战，大模型相关基础知识，transform架构和知识，业务知识 学历和实习 60h风控策略：s数分的技能点还要对应的信贷的业务知识背景 学历和实习🔧技术岗：学习门槛比较少的搜广推，python，pytorch，spark，机器学习+深度学习，小土堆，李沐，吴恩达，李宏毅，王树森推荐系统，kaggle项目， 学历和实习 80h风控算法，python，机器学习和深度学习，相关业务知识和项目 80h数开数仓：java，python，linux，sql，这些是基础的，进阶的：hadoop，hive，spark，kafka，flink，zookeep，数仓建模理论，阿里大数据，bi，tb可视化，几个项目，尚硅谷或者黑马，可选的：redis，hbase，monggodb 200h大模型应用开发：python，java，机器学习深度学习，rag，mcp，agent，langchain，langgraph，大模型微调 150h大模型算法：学历实习论文，python，机器学习和深度学习，nlp，损失函数、数据处理，预训练，大模型结果评估，监督微调sft，人类偏好对齐rlhf，高效微调lora等，强化学习，经典的大模型架构，例如gpt，qwen，创新的架构，框架应用，性能优化deepseed，模型量化，检索增强rag，agent，其他：模型压缩，技术报告 300h （校招故事会）核心精简版：python，机器学习和深度学习，llm的前置知识和理论，transformer，预训练的知识，tokenization，rope，归一化，flashattention，后训练，sft，lora微调，rlhf，rag，agent数据科学数据挖掘：低配版算法，sql，python，机器学习和深度学习，业务知识开发大类（含前后端测试）：暂未整理全部都是：一两个项目，学历，专业尽量对口，跨专业也可以，主要看实习，大模型这一块还看论文，八股，有代码的还要准备手搓代码，力扣hot100，然后刷实习

1. 介绍一下 bge-m3 和 DBSCAN，以及它们各自的优势bge-m3 是一个面向检索场景的多功能 embedding 模型，它的特点不是单一做稠密向量表示，而是把 dense、sparse 和 multi-vector 几种检索能力统一到一个模型里。dense 表示负责语义相似，sparse 表示更接近关键词匹配，multi-vector 更适合长文档和细粒度匹配。这样做的好处是一个模型可以兼顾语义召回和词面召回，尤其适合知识检索、教育问答、题目匹配这类场景。DBSCAN 是一种基于密度的聚类算法。它通过两个参数来定义簇：一个是邻域半径 eps，一个是形成核心点所需的最小样本数 mi...