科大讯飞 大模型算法实习 面经

整体面试还是不错的，但是没后续了，不知道是哪里出了问题1.项目介绍2.代码考察 mid中较难的题 用到了树的bfs的思想(队列实现）分析时间复杂度3.堆和栈数据结构的区别4.堆pop的时候如何维持性质5.python tuple和list的区别6.list.sort()和sorted()的区别7.类中静态方法和类方法的区别8.两种方法程序初始阶段是如何载入的9.操作系统bash命令了解吗  如何创建文件10.如何筛选log文件多少行包含多少error11.如何避免哈希冲突 深拷贝和浅拷贝的区别

岗位名称：大语言模型算法面试时长：1h–1.5h自评分：8/10是否下一轮：是模型架构与基础原理目前主流大语言模型在架构设计上有哪些异同点？（追问）Decoder-only 和 Encoder-Decoder 在实际应用场景上有什么区别？介绍一下大语言模型中的注意力机制，多头相比单头注意力有何优势？（追问）如果减少头数会发生什么？是否一定性能下降？什么是大语言模型的涌现能力？目前对该现象的研究有哪些发现？（追问）涌现能力是否和模型规模线性相关？什么是 Embedding？词嵌入和句嵌入有何不同？（追问）Embedding 层是否会参与微调？为什么？大语言模型中的 Tokenization 是如...

目前大三，计算机专业，以后想做ai开发毫无python后端经验，曾经用java springboot做过小项目，对于中间件也是停留在知道的层面现在跟着导师做大模型的科研打算给自己半年，需要怎么学？要从传统后端学起吗

岗位名称：推荐算法面试时长：1h+自评分：7/10是否下一轮：待通知一、检索与排序在项目中使用的 BM25 原理是什么？相比 TF-IDF 改进在哪里？公式中每一项的含义是什么？（追问）k1 和 b 参数分别控制什么？如果 b=0 会发生什么？为什么在实际系统中要做混合检索？Sparse 检索和 Dense 检索的基本原理分别是什么？（追问）两种方式在长尾 Query 上的表现差异如何？Dense 检索中常见的相似度度量方式有哪些？为什么很多系统选择 Cosine 或 Inner Product？（追问）如果向量没有归一化，Inner Product 和 Cosine 的结果会有什么差异？在你...