岗位名称：大语言模型算法面试时长：1h–1.5h自评分：8/10是否下一轮：是模型架构与基础原理目前主流大语言模型在架构设计上有哪些异同点？（追问）Decoder-only 和 Encoder-Decoder 在实际应用场景上有什么区别？介绍一下大语言模型中的注意力机制，多头相比单头注意力有何优势？（追问）如果减少头数会发生什么？是否一定性能下降？什么是大语言模型的涌现能力？目前对该现象的研究有哪些发现？（追问）涌现能力是否和模型规模线性相关？什么是 Embedding？词嵌入和句嵌入有何不同？（追问）Embedding 层是否会参与微调？为什么？大语言模型中的 Tokenization 是如...

我的第一家实习公司，算是小厂吧，我个人觉得。第一家实习公司，是学校在短时间内让我们赶紧去找的，也怪我当时没有这个意识，当“花花公子”天天吃喝玩乐去了，所以在短时间内，根本没空考虑时间什么的，随便找了一个小厂就进去了，然后在那做了三个月，期间，真的感觉到了和正职还是有差别的，正职过生日吃蛋糕，都躲在会议室偷偷吃，不给我们实习生哈哈哈，虽然也不是为了那一口蛋糕吧，但是心里也挺不得劲的

鼠鼠刚拿下了一个上海小公司的 offer，结果要辅导员电话，我给辅导员儿简单沟通了一下，直接劈头盖脸骂了我一顿，我真是服了 真的好痛苦😭😭😭，到底怎么办呀

1. Redis基本数据结构和底层https://zhuanlan.zhihu.com/p/148562122介绍一下跳表：跳表是一种多层索引的链表结构，查找、插入、删除的平均复杂度是 O(log⁡n)。在 ZSet 中，Redis 同时用哈希表存储成员到分值的映射，用跳表存储分值到成员的映射，这样既能快速定位单个元素，又能高效支持范围查询。 2. Redis为什么快这个问题大致来说可以从两个方向来回答：内存读写相比于磁盘读写速度要快上一个数量级，磁盘读写由于物理读写方式访问速度比较慢；另一个方面就可以对Redis的设计具体展开，包括但不限于：Redis单线程模型、Redis数据结构设计、Re...