高性能计算

1. 自我介绍2. 项目介绍3. 端侧部署大模型做的移植工作4. kv cache的管理5. 如何优化大模型的部署推理加速6. 推理框架的设计7. 计算图的设计8. 量化的原理9. 量化出现过大的误差该如何处理10. 量化算子是如何计算的，计算图会发生哪些变化聊了一下职业发展和目标城市，一共30分钟

一面 1. 自我介绍2. 项目介绍3. 预处理cuda加速4. 吞吐量如何增加5. 模型量化，体积减小与速度提高分析，精度分析6. 混合精度量化7. 多摄像头特征，多传感器特征如何对齐？8. bev的缺点，有什么问题9. chat-glm的预训练是怎么做的？10. 为什么没有q的cache11. 目标跟踪论文的介绍，拷打12. 小目标检测的trick13. bert与vit的位置编码，chat-glm的位置编码14. transformer结构加速15. flash attention16. 如何设计一个框架，支持后端各种不同硬件的推理框架17. layernorm如何计算的，是对哪一个维度18. safe softmax19. 特征值是什么，不同类型的特征怎么对齐，怎么评判提取一个特征好不好20. softmax对某一个类别的梯度，怎么计算的，是不是恒为正21. BN前如果有线性层，线性层还要加bias吗50分钟

1. 自我介绍2. 项目介绍3. 目标检测算法4. 目标检测的类别数，数据集大小5. yolov5的改进6. 量化的校准数据集7. 量化的原理8. 量化的精度评估9. 量化计算scale的方法10. 吞吐量计算11. 推理框架12. 计算图的构建13. 卷积算子的实现14. 矩阵乘分块15. 大模型分词器16. ARM NEON17. kv cache18. 指针与引用19. 堆与栈20. 野指针和智能指针30分钟

小伙伴们看过来，介绍优秀开源项目了，C++经典学习路线，搜索和AI推理方向，端到端的搜索系统kumo-search，该框架包括了C++高性能基础库turbo、向量引擎titan-ann、并行计算库flare、网络框架库 melon、以及python的高性能aot编译器Hercules等模块。有时间的小伙伴欢迎来star和学习~项目链接地址 https://github.com/gottingen/search-legend，相关代码在界面相关子项目中。你可以学到自动化的cmake构建，快手上手cmake和工程。你可以学习到高效的数据结构和网络框架，来自brpc、abseil、Onnxruntime等经典项目的精华，吊打webserver等单事件eventloop的网络架构。C++基础打扎实，视角广度提升，学习到高性能计算的simd、cuda等抽象封装。如果你是在校学生，想要转C++方向，搜索架构和AI高性能计算是非常合适的，这套项目也需要事件来好好研究，欢迎大家star，学长给你C++求职的建议。本人介绍，本人是23届毕业的硕士老哥，毕业走C++方向，拿到百度和理想等offer，相关实习和秋招面经可以看我的帖子，这个kumo-search项目是跟一个T9的大佬一起学习，搞的，用心学习能极大提升C++功底，搞定的话，百度T6水平不是问题，行业通吃。******************************************* 也可以给找实习和工作的小伙伴内推字节、阿里、百度、理想、地平线这些公司，身边的同学和朋友有在这些公司工作，大都是23届校招去的同学，了解相关毕业生发展和培养。

深圳AI异构计算-二面1.自我介绍2.项目背景，实际的落地，主要功能啥的，项目多少人，做了多久，基于规则，设备是什么3.RT-DETR与DETR的优化4.大模型推理加速的方法哪些5.attention算子加速6.手撕代码：leetcode 43，leetcode 946

扫码投递，欢迎私聊。     

希望翻到这个帖子的人，秋招，春招，实习，乃至社招都能有自己满意的结果，你的没一点滴的付出，都会在未来的某一天开花结果杂记：浩鲸科技云交付工程师面经：为啥归于杂记，因为面试官好像很忙的样子，基本让我随便说，那我就记一下这一面，顺便分享点知识，大家有大佬也可以交流下给我解下惑1、讲一下TCP2、讲一下OSPF3、讲一下BGP4、实习都做什么内容这里说一下，鉴于网工基本都要会些linux，会linux多少得会点容器，我很推荐大家了解容器概念后速转容器网络，学着玩。反正我当时学的很有意思，这次面试里和面试官在讲bgp的时候稍微描述了一下kubernetes的calico网络，表示自己学过，面试官直接赞叹相信自己，这对于一个成熟的网工来说并不难理解再就是，我在云智的面筋里提到双发arp和S-MLAG，面试大型数据中心的同志们可以了解下，大方的华三有个很易懂的白皮书方案：https://www.h3c.com/cn/Service/Document_Software/Document_Center/Home/Switches/00-Public/Configure/Practice/H3C_S_MLAG-BP_Long/?CHID=760260最近困惑的点：RDMA智算网络好多钱啊啊啊，但是这东西到底怎么入门呢，一看招聘需求都是要懂底层的，一看文章都是讲速率时延优化之类的内核层面的，那如果不是做RDMA的研发的话，对于基础网工们入门的正确姿势是啥呢，主要很大一点就是：配置上并没有多特别多，IB又是黑盒，主要也就是架构这里。总之没能给我一种形成技能的感觉，比如说：我学了bgp，然后我就会bgp了，慢慢再入门，再精通，这个就有点玄学

二面 1. 自我介绍2. 推理框架的设计，计算图，运行图，内存管理3. 动态图，静态图，动态shape4. 图优化5. warp之间通信6. cuda reduce7. cuda softmax，warp处理与block处理的区别8. block，grid的设置，调度，为什么会影响算子速度9. CUDA的计算模型10.flash attention v1 v2面试时间：45分钟

目前想要找嵌入式AI或开发相关的岗位，比较迷茫，请大佬们指点下简历以及经验

秋招面了这么多家以来，面试体验最差的一家公司。上来没有让我自我介绍，直接问我为什么没写实习，我说我这不能实习。面试官说不让你去你就不去吗。我说我导师就在我办公室这，经常会喊我，我还是得保证毕业。然后他说大家都是过来人，肯定有办法的。我真是一整个大无语。面试啥也不问，直接喊我写智能指针，然后自己在那玩手机。我写完了喊他，喊几句才理我，也不看我写的代码，直接就喊我写下一个代码，写完了又不看，然后就结束了。30分钟，体验极差。

一面 1.自我介绍2.卷积算子实现3.端侧的大模型部署4.学过计算机哪些课程coding：树形DP

0905一面0909HR面0920发测评1011 OC我说下周一给答复，决定签不签

周一投完这周共5个面试 面完3个 时间冲突放弃1个 周五还剩1个力扣和数据结构没怎么刷先上战场了 面试中目前失败一个（写了65%）研一下到现在学了半年CUDA和TensorRT构建推理引擎 各类模型的高性能算子和高性能推理还缺乏实践 更深的TVM，分布式的deepseed和汇编没时间了现在迷茫了 要学的很多且可能学完依旧找不到

小东西目前实习做的方向是深度学习框架AI compiler，除了正在实习的厂以外，只知道华子也有类似的岗位，但听说华子计算部门非常累。字节，美团等其他大厂还有类似的坑吗，马上就要参加秋招了，要换个方向吗😢😢

0913一面0925二面1010HR面说是通过的话，10月下旬直接谈薪发offer。

0923一面1017二面1024HR面一到两周出结果~

1. PPT介绍2. 问了一些多目标跟踪算法3. 卡尔曼滤波4. 推理框架使用5. CUDA锁页内存问了20分钟的样子，没怎么问

双非研究生，开学后研2。目前在用国产服务器神威做组内项目的并行优化，C和Fortran代码。招聘网站上关于神威的岗位几乎没有，于是想问大佬们是否要转cuda➕ai或者继续做神威，老师手里有一两张A100。