Q1：prefix Decoder 和 causal Decoder 和 EncoderDecoder 区别是什么？答案：prefix Decoder 和 causal Decoder 和 Encoder-Decoder 区别在于 attention mask不同：Encoder-Decoder：在输入上采用双向注意力，对问题的编码理解更充分。适用任务：在偏理解的 NLP 任务上效果好。缺点：在长文本生成任务上效果差，训练效率低。causal Decoder：自回归语言模型，预训练和下游应用是完全一致的，严格遵守只有后面的token才能看到前面的token的规则。适用任务：文本生成任务效果好。...

想先找个小厂

RT，不是很好意思直接问HR

暑期进度：美团：一面挂*2京东：一面挂字节：二面挂华为：面试已过，泡池子中，hr说一周出结果其他大厂要么简历挂要么泡池子，boss投中小厂也不鸟人，甚至有个小厂一面hr面挂了迷茫，现在是等华为还是考研还是干啥呢，华为实习好像认可度不高，秋招还是个难题，迷茫