提示词首先是提示词编写，可以套用模板1. 基础代码生成模板 请用【语言/框架】编写【功能名称】 要求： 1. 输入：【明确输入参数/数据】 2. 输出：【明确输出格式/结果】 3. 约束：【简洁/注释完整/无冗余/兼容XX版本】 4. 额外：【添加测试用例/错误处理/日志】 2. 代码修复 / 排查模板 这是我的【语言】代码，运行时报错【错误信息】 代码： 【粘贴代码】 请： 1. 定位错误原因 2. 给出完整可运行的修复代码 3. 解释修改点和原理 3. 代码优化 / 重构模板 请优化这段【语言】代码，目标： 1. 提升可读性/性能/可维护性 2. 符合行业最佳实践 3. 保留原有所有功能 ...

1. 介绍一下你做的这个项目2. LoRA 的基本原理是什么LoRA 的核心思路是，微调大模型时没有必要把整个权重矩阵都更新掉，而是只学习一个低秩的增量。原始权重记作 (W)，微调后的权重写成：其中 (A) 和 (B) 的秩都很低，参数量远小于直接更新整个 (W)。训练时冻结原模型参数，只训练这两个小矩阵，这样显存占用、优化器状态和保存体积都会小很多。它适合做领域适配、指令微调这类任务，因为很多任务对模型的改动并不需要覆盖完整参数空间。LoRA 常见会插在 attention 的 q_proj、v_proj 上，有时也会加在 k_proj、o_proj 或 MLP 层。选哪些层，本质上是在表达...