海康ai算法加速一二面

投的是算法工程 算法工程岗位。做的是 Ai infra。实际上是做大模型推理加速训练加速之类的优化框架， 没啥经验。1. 自我介绍2. 介绍一下自己第二段实习遇到的难点（就从算法和工程两块随便说了一点）3.C++指针和引用的区别4.STL 常用吗？ map 的具体实现懂吗？（红黑树，不过用 umap 更多，哈希表）5.那你介绍一下哈希表的常用实现方式。（就讲了一下拉链法， 桶，重哈希啥的）6. 智能指针了解吗？ 介绍一下7. 右值引用知道吗？移动语义介绍一下。8.transformer 的结构了解吗？介绍一下9.有了解过大模型的并行优化方式吗？（随便讲了一下模型并行 数据并行 流水线并行）10.那我现在一个 gpu 都放不下一层怎么办？（张量并行）11.那你知道张量并行怎么设计吗？就是矩阵之类的怎么拆？（这个不太了解了）12. deepspeed 和 megatronLM 有了解吗？（不太了解其实，只用过，什么 3D 并行13.flash attention 有了解吗？（大概讲了一下 QKV 中间状态不保存， 后向重新计算， 还有 softmax 分块计算）代码题字符串反转 to be or not to be 反转成 be to not or be to整体而言不难，但是主要是整体问的都比较底层和框架一点，其实都不太了解， 不知道面试官咋看。

全程1h1.问项目2.八股transformer encoder和decoder的区别transformer encoder中的信息怎么用到decoder中RNN和transformer的区别讲讲对多头注意力的理解lora的原理大模型如何加速推理？如何压缩？模型蒸馏3.算法题二维数组查找二分查找左侧边界

#神经网络模型# #神经网络量化#

2024年4月22日 上午 10:23|32分钟 22秒关键词:线程池、电商、链路、流量、压测、飞书、产品、数据库、异步、后台系统、核心链路、京东零售、外包项目、工作线程、链路接口、业务场景、跨境服务、业务核心文字记录:我主要工作其实就是旧的整个 bytesmart 点 AI 的工程这一块，尤其是主要是后端 Server 这一块，然后目前也在做那个用户增长，就是广告投放那一块。然后你对 bytesmart 公司团队或者产品有什么想要了解的或者问题，可以我们最后留 5- 10 分钟时间，我们可以，你可以随时问我，让他先简单自我介绍一下。需要开视频吗？都可以。那我开一下吧。自我介绍还在？那为什么不...