许愿进二面

岗位名称：大语言模型算法面试时长：1h–1.5h自评分：8/10是否下一轮：是模型架构与基础原理目前主流大语言模型在架构设计上有哪些异同点？（追问）Decoder-only 和 Encoder-Decoder 在实际应用场景上有什么区别？介绍一下大语言模型中的注意力机制，多头相比单头注意力有何优势？（追问）如果减少头数会发生什么？是否一定性能下降？什么是大语言模型的涌现能力？目前对该现象的研究有哪些发现？（追问）涌现能力是否和模型规模线性相关？什么是 Embedding？词嵌入和句嵌入有何不同？（追问）Embedding 层是否会参与微调？为什么？大语言模型中的 Tokenization 是如...

周水洋真是个大暖男[捂脸]

再找不到实习就找不到工作了

1. 进程和线程的区别？答案：进程资源分配的基本单位独立的地址空间进程间通信（IPC）开销大创建销毁开销大线程CPU调度的基本单位共享进程的地址空间线程间通信简单（共享内存）创建销毁开销小对比进程更安全，隔离性好线程更轻量，切换快线程共享资源，需要同步C++中的线程C++11引入std::thread跨平台的线程库RAII风格管理2. 什么是线程安全？如何实现？答案：定义多线程访问时，程序行为正确不会出现数据竞争结果可预测实现方法互斥锁（Mutex）保护临界区同一时间只有一个线程访问读写锁多个读者，一个写者提高并发度原子操作不可分割的操作无需加锁无锁数据结构使用CAS（Compare-And-...