中国移动

1、知道 GPT 和 BERT 这种模型的基础框架是怎样的吗BERT 和 GPT 都是基于 Transformer 的预训练模型，但结构和任务目标不一样。BERT 一般采用 Transformer Encoder 堆叠起来的双向编码结构，在预训练时主要做 MLM，也就是随机遮盖一部分 token，让模型根据上下文去恢复被遮掉的词，因此它更适合理解类任务，比如分类、匹配、抽取、检索表示学习。GPT 采用 Transformer Decoder 堆叠起来的单向自回归结构，在预训练时做 next token prediction，也就是根据前面的 token 预测下一个 token，因此它更适合生成...

兄弟姐妹们帮帮看下还有什么可以优化的地方

鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐

双非一本，Java后端，记录一下现在的情况，给差不多背景的同学参考。目前投了：字节（后端）→ 一面过，等二面腾讯 IEG → 笔试过，约面中美团到店 → 投了，无反馈百度 → 笔试下周京东、快手、货拉拉 → 均已投，等消息小红书、滴滴 → 填了一半，还没提交体感字节推进最快，腾讯比较慢。多说一句，投的多了之后网申填表是真的烦，每家都要重填一遍。后来发现牛客有个网申助手插件，信息录一次之后自动同步，省了不少时间，那几家填一半的就是装了之后补完交的。有同背景还在投的吗，来聊聊