迪普科技

岗位名称：大语言模型算法面试时长：1h–1.5h自评分：8/10是否下一轮：是模型架构与基础原理目前主流大语言模型在架构设计上有哪些异同点？（追问）Decoder-only 和 Encoder-Decoder 在实际应用场景上有什么区别？介绍一下大语言模型中的注意力机制，多头相比单头注意力有何优势？（追问）如果减少头数会发生什么？是否一定性能下降？什么是大语言模型的涌现能力？目前对该现象的研究有哪些发现？（追问）涌现能力是否和模型规模线性相关？什么是 Embedding？词嵌入和句嵌入有何不同？（追问）Embedding 层是否会参与微调？为什么？大语言模型中的 Tokenization 是如...

记录一下，小天才寄了😂

不说别的东西hot100一定要熟练 一定要理解 不是死记硬背那种 很多公司都是考这些的 只有这些稳了才有冲击大厂的资格

题目叽里呱啦说了一大堆，实际上就是求每个t的最小值，加起来自然就是全部t的最小值了。这个t的表达式看着就有点像是高中见过的对勾函数，可以直接通过数学方法求最小值。在函数t中把欧式距离e看作常数，对k求导得令导数为0，可解得k为注意到我们求得的k可能会小于0，当小于0的时候令其等于0即可。然后再回忆一下c语言中的对数函数求自然对数 ln(x) 的函数为 log(x)求以10为底的对数log10(x)的函数为log10(x)求其他底数的对数需要使用换底公式，如求以2为底的对数log2(x) 的函数为 log(x) / log(2) #include<iostream> #include...