鼠鼠暑期实习简历，求指点>.<

1.&nbsp;大模型微调的完整技术方案与工程落地细节采用&nbsp;LoRA&nbsp;参数高效微调方案，仅对&nbsp;Transformer&nbsp;的&nbsp;Q/V&nbsp;投影层添加低秩矩阵，冻结底座模型参数。训练时设置秩&nbsp;r=8、缩放因子&nbsp;α=16，使用&nbsp;AdamW&nbsp;优化器，学习率&nbsp;2e-4，配合余弦退火学习率调度与梯度裁剪。工程上使用混合精度训练、分布式数据并行，提升训练效率，训练后合并&nbsp;LoRA&nbsp;权重，不增加推理延迟。&nbsp;import&nbsp;torch&nbsp;import&nbsp;torch.nn&nbsp;as&nbsp;nn&nbsp;class&nbsp;LoRALinear(nn.Module):def&nbsp;__init__(self,&nbsp;in_features,&nbsp;out_features,&nbsp;r=...

我觉得我经历很丰富啊，为什么在西安只有7k😭

这家公司疯了吧，5个人招我，我又不是什么稀缺资源这家看样子应该是外包公司