1. 什么是 LoRA？LoRA 全称是 Low-Rank Adaptation，核心思想是在微调大模型时不直接更新原始大权重矩阵，而是冻结预训练权重，只额外学习两个低秩矩阵，用这两个小矩阵的乘积去近似原权重的增量。原来如果某层权重是： W ∈ R^(d×k) LoRA 不直接学习 ΔW 的完整矩阵，而是写成： ΔW = B A A ∈ R^(r×k), B ∈ R^(d×r), 且 r << min(d, k) 最终前向变成： h = W x + ΔW x = W x + B A x 这样训练参数量会大幅下降。2. LoRA 的思路是什么？LoRA 的基本假设是：大模型在迁移到下...

投了很多，一直没能进面

自我介绍实习遇到的难点，是如何克服的有在线上排查的经验吗B 平台 策略模式、工厂模式和模版方法模式是如何运用的，有什么区别阶梯退避轮询中，base 和上限是如何确定的峰值或高频请求时，如何保证 SLAC 系统 Checkpoint 回溯机制是如何实现的；取 Checkpoint 发生在哪些时机A 系统 如何保证事务下，数据库与缓存的一致性详细讲一下分布式随机分片锁八股了解缓存击穿和雪崩吗了解 JVM 内存吗垃圾回收了解过吗AI了解 AI Agent 吗了解 Agent 的上下文窗口吗；上下文超过模型窗口限制，如何处理了解过 Agent 的短期记忆和长期记忆吗算法二叉树的层序遍历 &&a...