跟谁学内推

出现好几次了 选啥

大二跟实验室学了一年（学到微服务，还有个项目），大二暑假刷了 hot100，大三开学开始刷八股和项目优化，八股准备的差不多了，现在投简历能找到中小厂的日常实习吗，求狠狠拷打

预训练语言模型中的Decoder-Only架构 Decoder-Only架构是当前大语言模型（如GPT、LLaMA、GLM）的核心设计范式，仅使用Transformer的解码器部分，通过自回归生成实现语言建模。其核心特点是单向注意力掩码，确保每个位置仅能访问历史信息，适合生成式任务。 GPT系列模型的技术演进 GPT-1首次验证了纯Decoder架构的潜力，采用12层Transformer和768维隐藏层。GPT-2将规模扩展到48层和1600维隐藏层，证明零样本学习能力。GPT-3进一步突破至1750亿参数，引入稀疏注意力机制和更高效的数据分布策略。 关键创新包括：  基于概率的token预...