1. 自我介绍2. 项目里怎么做意图识别，如何理解用户真正要解决的问题意图识别不是简单做文本分类，而是把用户输入转换成系统能执行的任务。比如用户问“这个供应商最近还能不能继续合作”，表面上是一个问答，实际上可能需要查询供应商资质、历史履约、黑名单、逾期付款、合同违约记录和采购金额变化。这里要识别的不只是意图标签，还包括业务对象、时间范围、风险类型和是否需要调用工具。工程上我会分成三层。第一层是规则和实体识别，先提取合同编号、供应商名称、采购单号、金额、日期这类强结构化槽位。第二层是模型意图分类，判断是合同审查、条款解释、供应商风险、付款异常还是流程咨询。第三层是置信度和兜底，如果置信度低，就让...

这个世界太疯狂了

幸亏看到这个帖子

1. 什么是 LoRA？LoRA 全称是 Low-Rank Adaptation，核心思想是在微调大模型时不直接更新原始大权重矩阵，而是冻结预训练权重，只额外学习两个低秩矩阵，用这两个小矩阵的乘积去近似原权重的增量。原来如果某层权重是： W ∈ R^(d×k) LoRA 不直接学习 ΔW 的完整矩阵，而是写成： ΔW = B A A ∈ R^(r×k), B ∈ R^(d×r), 且 r << min(d, k) 最终前向变成： h = W x + ΔW x = W x + B A x 这样训练参数量会大幅下降。2. LoRA 的思路是什么？LoRA 的基本假设是：大模型在迁移到下...