实习

1. 自我介绍2. 项目拷打3. 你实习做了什么 有什么提升 详细说说4.Transformer 为什么适合做大模型底座？Transformer 适合做大模型底座，核心原因是 并行能力强、长距离依赖建模能力强、扩展性好。RNN 按时间步串行处理，训练效率低，而且长距离依赖容易衰减；Transformer 使用 Self-Attention 直接建模任意位置之间的关系，训练时可以并行处理整段序列，所以更适合大规模预训练。现在大部分大模型都以 Transformer 为核心结构。5. Self-Attention 的公式是什么？输入 (X) 先映射成 Query、Key、Value：注意力计算公式...

我是学院🐭，没面过大厂，官网投的都是秒挂，这是拿我刷kpi的吗？要尝试一下吗？

寒假4场线上面试都黄了。开学返校，千里迢迢，路程25h。到校就是打扫卫生，整理杂物。第二天满课，有事没午休，晚上睡觉漏风着凉，终于是把自己累感冒了。结果感冒了才想起来自己还有一个一面测试题没写，但是昏昏沉沉看不下去；又想到今天boss还没投满150，得赶紧投完；之后又想起自己还没看课学习......焦虑，急躁，颓废，厌恶......各种情绪交织，终于接受了。谁让自己高考前想得太多，井底之蛙，没有想学习的心呢；谁让自己大一什么寻找幸福的意义，加入学生会和社管，忙成陀螺拿奖学金呢；谁让自己大二开始摆烂陷入无尽的虚无主义，而执行力--啥也不干呢。所以没办法，如今的结果，都是过往的自己一步步堆积出来的，自己认，自己扛。我大抵是病了。高中疫情居家放假，病痛缠身但不会想学习的事；如今病了，想的是好倒霉，打乱了许多计划，干不成很多事。对自己好一点，一路的风景何尝不值得我们驻足欣赏。那些过去没掌握的东西，不是失去了，而是在未来等待，一步一个脚印慢慢来去拾起来就好了。戒骄戒躁。

1. 介绍一下你做过的一个项目2. LoRA 的原理以及初始化方法是什么LoRA 的核心是低秩适配。对于原始权重矩阵 (W \in \mathbb{R}^{d \times k})，全参数微调直接更新整个 (W)，成本高、显存占用大。LoRA 认为下游任务需要的更新往往落在一个低秩子空间里，所以把增量写成：W' = W + \Delta W = W + BA其中，并且r≪min⁡(d,k)r≪min(d,k)。训练时冻结原始参数 (W)，只训练 (A) 和 (B)，这样参数量和优化器状态都能显著下降。初始化时通常让 (A) 随机初始化，(B) 初始化为 0，或者相反。这样一开始 (\Delta...