推荐算法（支付宝）面经

1，自我介绍2，介绍自己熟悉的云平台相关东西3，介绍自己项目中接触到的云产品和相关功能，亮点4，亚马逊和微软的云产品了解5，数据库部署，升级，打补丁情况6，K8s的应用情况7，500+的并发请求怎么实现的？8，怎么保证别人访问你的图库速度9，Coze和dify的区别10，部署ai项目的配置11，nginx怎么实现反向代理的？怎么实现Token鉴权的？12，怎么避免别人大量调用自己的Token反问：运维团队情况考证的报销粤语和英语的要求公司基本和工作内容情况情况：总部是在香港，研发部在珠海。职位主要是监控运维，没有节假日。三班倒，白班：9:30-18:30，中班：18:30-2:30 晚班：2:...

🤔 这道题是经典中的经典，超容易被问到，如果答不出来是很减分的！作者参加过的暑期实习和秋招的面试中这道题考了得有7次以上了（大多数为一面考察的）。每当面试官问到Transformer相关的八股，这道题几乎是必问的。📖 此题的答案是：由于Query和Key的点积操作使得结果方差变大d倍，导致模型容易出现梯度消失现象，因此需要除以根号d减小方差，避免梯度消失问题。详细的分析如图1所示。📈 图3和图4为验证不除以根号d会导致的注意力分数靠近0或1现象的代码。图2为结果。

问老板，用A方案还是B方案，老板回了个好的以前以为只是段子，直到事情真实发生在自己身上

🍓一面时长约50min，面试官很和蔼，体验感还不错。1．面试官先简单介绍了下团队，然后是自我介绍；2．拷打了一下项目和论文；3．为什么多头注意力能提升表达能力？4．为什么要在大模型中使用 RMSNorm ？和 LayerNorm 有什么差异？5.LoRA和 PromptTuning 有何区别，分别适用于什么场景？6．模型微调时遇到过过拟合吗？怎么处理的？7．大模型推理时的加速思路？8.KV Cache 是怎么起作用的？为什么对长上下文推理很关键？算法题手撕：字符串的全排列。二叉树序列化与反序列化。✅面试感受：整体提问节奏比较平稳，面试官很有亲和力，有的地方卡住了还会给提示。🍓二面时长约40min，主要是针对简历进行深挖。1．自我介绍。2．深挖项目，针对项目思路不断追问。3．大模型生成内容如何做去重过滤？4．如果词表特别大（10w+ token ), Softmax 加速通常有哪些实现？5．如果要在中文领域做 Instruction Tuning ，需要注意哪些数据问题？6．反问✅面试感受：二面的氛围和一面截然不同，面试官提问非常犀利，没有太多套路问题，并且对细节很关注。📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。