岗位名称：大语言模型算法面试时长：1h–1.5h自评分：8/10是否下一轮：是模型架构与基础原理目前主流大语言模型在架构设计上有哪些异同点？（追问）Decoder-only 和 Encoder-Decoder 在实际应用场景上有什么区别？介绍一下大语言模型中的注意力机制，多头相比单头注意力有何优势？（追问）如果减少头数会发生什么？是否一定性能下降？什么是大语言模型的涌现能力？目前对该现象的研究有哪些发现？（追问）涌现能力是否和模型规模线性相关？什么是 Embedding？词嵌入和句嵌入有何不同？（追问）Embedding 层是否会参与微调？为什么？大语言模型中的 Tokenization 是如...

1、自我介绍介绍了一下我自己啥情况，之前在哪个公司实习过，主要参与 C++ 后端相关开发工作。 实习期间我做过消息处理/服务端模块开发，参与了功能迭代、问题排查和一部分性能优化工作。 技术栈方面，我主要掌握 C/C++，熟悉 STL、Linux 开发环境、网络编程（TCP/IP）、多线程与并发编程，了解常用的数据结构与算法，也用过 MySQL、Redis 这类常见组件。 整体上我偏工程实践，比较关注代码质量、稳定性和性能，想在 C++ 后端方向继续深入。2、单例模式和工厂模式的作用单例模式：保证一个类全局只有一个实例，适合日志、配置中心、线程池这种“全局只要一个”的对象。 工厂模式：把对象创建...