快手提前批——多模态算法

现在投递字节日常实习会不会晚啊

✅一面1️⃣深挖多模态论文2️⃣介绍transformer架构3️⃣详细说一下Decoder的因果注意力 QKV分别来自哪4️⃣Attention为什么要做scaled 不做会怎么样 为什么用根号d_k5️⃣Transformer怎么做加速训练（KV缓存） 训练和推理有什么区别（并行化）6️⃣深挖多模态大模型论文用的video-llama 讲一下大模型的结构7️⃣论文用了CoT讲一下论文的CoT是怎么样的8️⃣微调用的LoRA介绍一下LoRA9️⃣LoRA初始化怎么做的，用的秩是多少，为什么不选其他的数1️⃣0️⃣知道deepspeed和megatron吗？分别介绍一下1️⃣1️⃣论文用的deepspeed详细讲了一下三个stage分别是什么✅二面1️⃣深挖多模态和大模型的论文2️⃣Decoder文本生成有哪几种方法3️⃣还知道哪些多模态大模型4️⃣介绍一下ALBEF、BLIP5️⃣BLIP2的结构是什么  两阶段怎么训练的 有哪些损失6️⃣知道PEFT吗 讲一下LoRA7️⃣还有什么微调方法 -> prefix-tuning和P-tuning 两者分别是怎么做的 为了解决什么提出的8️⃣后面就是一些场景题✅三面1️⃣深挖论文2️⃣讲一下multi-head attention 用pytorch手撕一下 要可以实现cross attention的3️⃣讲一下你用的大模型是什么结构 特征是怎么喂给大模型的4️⃣大模型训练为什么不用SFT5️⃣LoRA是什么？有什么好处6️⃣知道RLHF吗？讲一下训练流程7️⃣接下来就是好几个场景题，电商相关的，用大模型解决prompt应该怎么设计，怎么处理prompt的输出，怎么过滤错误格式的输出📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

有这个部门的uu吗  实习生进去主要业务时什么呀  ai大数据

一面：1.  进程、线程、协程对比说一下2. Java来做异步任务处理用什么3.  分布式锁和Java的锁区别4. jvm调参，说自己了解的东西5. 内存泄漏发生在什么情况下6. 介绍原子类，比如AtomicInteger7. volatile起什么作用8. 手撕 ：IDEA上写层序遍历和链表中间结点二面：1. 手撕：实现一个M叉树的结构，我写了31min，100多行的代码…类结构、插入函数和分裂函数2. 面试官：看你写出来了，如果让你测试，你会怎么编写测试用例3. 如果用这个M叉树来存储全国本科生的信息，假设场景如下：M是年级（大一到大四），用这个树把数据都存进去，insert进去，你说说这个程序的代码热点在代码的哪几行？4. 假设有个同学使用C++参考你的算法实现了一模一样的版本，但是在相同的硬件环境下，你的Java版本比C++版本更快，你觉得可能发生了什么？为什么5. 你最近在看的一本技术书籍是什么？6. 假设有一个1TB的文件，每一行都是一个url，现在你设计一个方案，满足的功能是找出这个文件中出现次数最多的那个url，怎么设计，方案有唯一解7. 假如你们学校机房有两台机器A、B，A上有一部电影，现在你设计一个网络程序，就一个发送端一个接收端，要求是通过网络的方式把这个电影从A传到B，要尽可能快。可以用你想的得到的任何硬件和软件上的方式来加速这个处理过程，你会怎么设计？可以想一下再回答我8. 假如用你刚刚的方案，软件实现了功能也正确，那你想一想这个链路的瓶颈在哪个环节？是在内存、cpu、磁盘还是网络？9. 你读研的方向是哪个领域？timeline：投递：4.6笔试：4.8一面：4.11二面：4.16hr 面：4.23排序挂…崩溃