平安银行上海分行管培vs中信证券杭州营业部

项目一：模型微调相关（面试问答总结） 首先让我介绍了简历中的第一个项目——模型微调相关项目。在交流过程中，面试官主要围绕以下几个方面进行了提问： 1. 指令遵循能力（未微调情况下的提升方式） 面试官提问： 如果不进行微调，如何让模型在回答指令时具有更高的指令遵循能力（例如格式准确率更高）？ 2. 训练数据来源与构造  训练数据是如何获取的？ 数据是如何构造和设计的？  3. Transformer 中的注意力机制  讲解 注意力机制（Attention Mechanism） 的基本原理。 为什么在计算注意力分数时需要 除以 ？ 为什么是 ，而不是 ？  4. LoRA（Low-Rank Ada...

发一下问题给大家参考，攒攒人品！项目拷打八股1.bert和gpt的区别？2.训练/微调一个LLM的流程？3.实习时用的 megatron 框架吗，对分布式训练框架了解多少？4.了解强化学习吗，跟SFT有什么区别？

分享一下最近27鼠鼠投暑期，投了一周 boss拉满，官网基本都投了，收到了米哈游和美团笔试，然后亚信科技和经纬恒润测试和运维岗面完很水拒了，然后一家安全50人的厂开发oc了，收到了亚马逊中国的面试，真是违背自己鼠鼠英语巨烂，有没有大佬懂说数据中心运维岗怎么样，看大家都有offer了真的焦虑了，最近都是已读不回 电话很少了😂😂，不知各位27届兄弟都咋样了

发点面经攒攒人品～八股1.写一下 attention 公式2.训练时为什么要mask，推理时也需要吗？两处有什么区别？推理时的sequence length和训练时一样吗3.transformer和传统seq2seq模型有什么区别？4.计算attention时为什么要除以d_k，这个d_k的含义是？5.attention计算时还有哪些scale处理？6.attention中softmax函数作用、公式、为什么有减去最大值的处理？换个函数还能这样处理吗？7.解释数值上溢、下溢问题8.讲一下prompt书写的经验，如何判断prompt是否达标，如何改进prompt9.讲一下SFT，会对哪部分计算loss？为什么？10.讲一下deepspeed11.训练用一个7b模型要占用多少显存？不同zero阶段能够节省多少显存？12.训练模型时用了几张卡，有遇到什么异常中断问题吗？