应届生方向选择 后端 ai infra 嵌入式

1.实习介绍2.针对项目提问3.FlashAttention原理，Online softmax，有没有看过cuda kernel，FlashAttention V1,V2,V3，FlashDecoding原理4.推理优化的思路（方法）有哪些5.用没用过vllm/SGLang，原理6.有没有听说过Dynamic Batching7.Coding：写一个ruduce，用block，优化版：用warp shuffle，能不能再优化？8.加载到shared memory和直接从HBM取input比为什么更快9.有没有听说过shared memory的bank conflict10.反问：在哪些地方可以继续提升自己

1. 什么是设计模式？常见的设计模式有哪些？答案：定义软件设计中常见问题的可复用解决方案经过验证的最佳实践提高代码可维护性和可扩展性三大类创建型模式：对象创建单例模式工厂模式抽象工厂模式建造者模式原型模式结构型模式：对象组合适配器模式装饰器模式代理模式外观模式桥接模式组合模式享元模式行为型模式：对象交互观察者模式策略模式模板方法模式命令模式迭代器模式状态模式责任链模式访问者模式2. 单例模式如何实现？答案：懒汉式（线程不安全） class Singleton { static Singleton* instance; Singleton() {} public: static Singleto...

感觉面的还可以发些面经攒攒人品1.ep的dispatch和combine2.vm最近有什么新的比较好的特性3.dpsk的结构4.tp的allreduce的次数5.kv cache的大小计算6.MQA和GQA手撕

投了快2000份，这几天面试都吻上来了，八股已经可以做到无前摇输出了双非真是太难了，拿到一个制造业的实习，业务不是很好，但是没其他实习，问了一些大佬，都是说有实习就不错了，但是我想进互联网的公司啊