SAP STAR 上海面经

1.SFT训练trick和问题2.lora的使用 原理 目的3.对大模型推荐的了解4.场景题 zero shot模型的使用5.传统检索的方式6.Rag的作用 实现流程7.讲讲deep search8.对于强化学习的了解 介绍grpo手撕 一个链表，使他首尾交替出现，例如1 n 2 n-19.手撕 前K小的数📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

1. 医疗数据来自哪里，原始格式是什么常见来源：电子病历、指南文档、药品说明书、问答语料、结构化表。原始格式可能是txt/doc/pdf/json/csv/数据库表，需做脱敏与字段规范化。2. 使用什么标注工具，如何分配标注任务常用doccano、label studio。任务分配一般按疾病域或实体类型切分，双人标注+仲裁提升一致性，使用IAA（如Kappa）评估质量。3. 使用什么标注规则，详细解释规则通常包含：实体边界规则、歧义词处理、缩写规范、嵌套实体策略、关系触发词定义、冲突优先级。需要沉淀《标注指南》并版本化管理。4. 如何实现数据预处理，中间步骤有哪些流程：去噪清洗 → 分句分词 ...

被横向挂了，希望发出来对大家有帮助！1* 简单概述你简历中的两个项目，包括项目背景以及你的具体分工，是独立完成还是团队协作2* 项目的数据来源是什么？你是如何确定优化目标的？3* 比如数据从 100 条扩充到 1.2 万条，是否全通过自动化生成？生成的样本具体是什么样的？举个例子说明一下生成前后的对比4* 怎么保证自动化生成数据的正确性呢5* 在通过调整参数直到模型回答正确为止的过程中，是否意味着生成的CoT中存在错误逻辑？6* 经过数据清洗后，最终用于SFT的有效数据量是多少？7* 在做微调时，除了 LoRA 是否对比过其他的微调算法8* 你是如何评价微调效果的？测试集的比例是多少？微调前后的准确率分别是多少？原有的模型性能保留了多少？9* LLM常用的结构是什么？10* 说一下Transformer 的整体结构11* 目前主流大模型最常用的位置编码是什么？。12* 写一下多头注意力机制的数学公式。13* 公式中为什么要除以 \sqrt{d_k}？其对梯度消失或梯度爆炸有什么影响？14* 在 Transformer 的 Encoder 和 Decoder 中，哪些部分是可以并行计算的，哪些不可以？15* 除了 LoRA，你还了解哪些微调方法？16* 大模型训练通常使用什么损失函数17* 在机器学习基础中，二分类问题、多分类问题以及回归问题分别使用什么损失函数？18* 你了解哪些优化算法19* 模型训练中出现过拟合的常用解决方案有哪些？20* Dropout 在训练阶段和预测阶段的处理方式是否一致？为什么要这样做？21* 大模型中的“复读机问题重复生成是什么原因导致的？如何从解码策略或训练层面解决？22* 幻觉问题产生的原因是什么？目前常用的工程解决方案有哪些？23* 写出逻辑回归的数学公式。

1. Linux 常用命令有哪些？常用命令按场景分：文件目录：lscdpwdcpmvrmfind文本处理：catlessheadtailgrepawksedsortwc系统资源：topfreedfduiostatvmstat进程网络：pskillssnetstatlsof服务管理：systemctljournalctl2. 如何查看 Linux 系统版本和内核版本？系统版本看发行版，内核版本看 uname。 cat /etc/os-release uname -r uname -a 3. 如何查看 CPU 使用情况？top 动态看，uptime 看负载，mpstat 看多核。 top upti...