27届暑期大模型应用开发求指导

1. xgboost 为什么叫梯度提升树因为它本质上就是：树：基学习器是 CART 回归树提升：一棵一棵往上加梯度：每一轮拟合的是损失函数对当前预测的负梯度普通提升树可以理解成拟合残差，XGBoost 是把“残差”推广成了更一般的梯度下降框架，而且用了二阶导信息，所以比传统 GBDT 更强。2. 知道什么概率模型？朴素贝叶斯，说一下贝叶斯的思想概率模型就是用概率分布描述数据和变量关系的模型，比如：朴素贝叶斯HMMCRFGMM贝叶斯网络贝叶斯思想就一句话：先验 + 数据 = 后验。公式：[P(A|B)=\frac{P(B|A)P(A)}{P(B)}]朴素贝叶斯做分类时，假设特征在给定类别下条件独...

继续来分享下之前的面经~欢迎友好讨论，信息共享1.项目拷打2.R1的MLA是如何实现KV-Cache的节约?3.R1在SFT时冷启动的目的?4.位置编码是什么?解释ROPE?5.一个14B的模型，推理和训练要多少显存?6.显存的占用和哪些因素相关?7.大模型灾难性遗忘是什么?如何解决?8.BF16、 FP16、FP32对比。9.Adam, AdamW原理。

1、自我介绍2、项目拷打3、讲一下 OpenClaw 的记忆本地存储怎么设计如果做本地记忆存储，我不会把它设计成简单的对话历史追加，而会把它拆成短期记忆、长期记忆和检索索引三层。短期记忆主要服务当前会话，用来保存最近几轮对话、当前任务状态、工具调用结果和待执行动作；长期记忆主要保存用户偏好、历史事实、任务总结和可复用经验；检索索引层则负责把长期记忆做结构化检索和语义召回。本地存储设计时，数据模型最好不要只存一段纯文本，而是存结构化记录。比如：memory_iduser_idsession_idmemory_typecontentsummarytagscreated_atupdated_atim...

分享面经攒人品题目记不太清了，想到啥写啥，面试问到的问题大概是这些：1.自我介绍，还要结合大模型的日常使用；追问1：实习中用到的AI代码审查，具体是怎么实现的？2.队列和栈的区别；追问1：浏览器的前进、后退功能要怎么实现？追问2：如果先点后退，再打开新网页，这个过程会发生什么？3.分布式事务；追问1：事务消息里，生产者的反馈丢失了该怎么处理？追问2：如果回溯操作后，反馈还是丢失了怎么办？4.如何保证数据一致性；追问1：消息队列的消息丢失了该怎么解决？丢失后会有什么影响？5.这题忘了6.RAG的系统设计，整体要怎么规划；中途换题：如果遇到数据注入攻击，该怎么应对？给了四个内容，要求排序；追问1：为什么要这样排序？7.讲一个自己遇到的持续性问题，以及全程的解决过程；追问：当时的解决思路为什么要这样设计？这样做有什么好处？