科大讯飞算法工程师(大模型方向实习)

岗位名称：大语言模型算法面试时长：1h–1.5h自评分：8/10是否下一轮：是模型架构与基础原理目前主流大语言模型在架构设计上有哪些异同点？（追问）Decoder-only 和 Encoder-Decoder 在实际应用场景上有什么区别？介绍一下大语言模型中的注意力机制，多头相比单头注意力有何优势？（追问）如果减少头数会发生什么？是否一定性能下降？什么是大语言模型的涌现能力？目前对该现象的研究有哪些发现？（追问）涌现能力是否和模型规模线性相关？什么是 Embedding？词嵌入和句嵌入有何不同？（追问）Embedding 层是否会参与微调？为什么？大语言模型中的 Tokenization 是如...

项目用了哪些大模型项目写了多少行代码 多少个接口ArrayList和LinkedList区别MySQL索引用什么数据结构怎么样加快成千上万数据行的插入创建线程方式缓存三剑客用大模型干过什么实习时长以及下学期上课情况

求拷打，单2硕，0实习最近想找一段大厂暑期或者日常实习（有机会吗🥲，hot100目前还在二刷，八股看差不多了，还没开始投，求大佬拷打

发一下问题给大家参考，攒攒人品！有面试过同岗的朋友欢迎评论区交流项目拷打Transformer1.Transformer结构介绍2.自注意力机制介绍CUDA:1.Safe Softmax和普通softmax的区别?2.如何实现的online softmax科大讯飞iFLYTEK3.代码实现online softmax4.CUDA开发流程5.如何在CUDA上求一个数组的和?如何在CUDA上划分和合起来6.编译命令?nvcc有哪些常用参数?7.GCC有哪些参数?链接动态库?头文件查找路径?8.动态库和静态库的区别Pytorch:1.一个Tensor[1,2,3,4]想转成[4,3,2,1]有那些函数可以做到?(permute)2.介绍一个熟悉的继承自nn.Module的类推理加速中的FlashAttention了解吗?