科大讯飞许愿oc

去年夏天，我组里来了一个让我印象很深的实习生。不是因为他优秀，恰恰相反——他来的时候基础相当薄弱。面试时，我其实有点犹豫某211学校，大三，没有任何实习经历，唯一的项目是一个图书管理系统课程设计。技术问题回答得也一般，Java、数据库、Redis都只是了解皮毛。但有一个点打动了我：“我学习能力还可以，遇到不会的就查资料、问人，直到搞懂为止。”这种态度，让我决定给他一个机会。第一周：连Git都不会用入职第一天，他在Git上卡了整整一个下午。clone、commit、merge冲突，都不太熟。我心里有点凉：这基础也太差了吧？但他说：“导师，Git我以前用得少，但我今晚回去好好学一下，明天应该就没问...

不过还是挺开心的hhh

兄弟姐妹们帮帮看下还有什么可以优化的地方

1、知道 GPT 和 BERT 这种模型的基础框架是怎样的吗BERT 和 GPT 都是基于 Transformer 的预训练模型，但结构和任务目标不一样。BERT 一般采用 Transformer Encoder 堆叠起来的双向编码结构，在预训练时主要做 MLM，也就是随机遮盖一部分 token，让模型根据上下文去恢复被遮掉的词，因此它更适合理解类任务，比如分类、匹配、抽取、检索表示学习。GPT 采用 Transformer Decoder 堆叠起来的单向自回归结构，在预训练时做 next token prediction，也就是根据前面的 token 预测下一个 token，因此它更适合生成...