1、知道 GPT 和 BERT 这种模型的基础框架是怎样的吗BERT 和 GPT 都是基于 Transformer 的预训练模型，但结构和任务目标不一样。BERT 一般采用 Transformer Encoder 堆叠起来的双向编码结构，在预训练时主要做 MLM，也就是随机遮盖一部分 token，让模型根据上下文去恢复被遮掉的词，因此它更适合理解类任务，比如分类、匹配、抽取、检索表示学习。GPT 采用 Transformer Decoder 堆叠起来的单向自回归结构，在预训练时做 next token prediction，也就是根据前面的 token 预测下一个 token，因此它更适合生成...

学java第六天，效率太慢了把游戏删了我再玩是sb

985，算法方向，从1月底开始投，现在快两个月了...投了的公司：字节（算法）→ 笔试过了，面试凉了，已复活重投腾讯 → 笔试还没做完...差点超时阿里 → 投了没消息百度、美团、京东、滴滴、快手 → 都投了华为 → 机考约了小厂投了一堆，大部分没回...算法岗竞争真的大，投了这么多进展还是很慢，有时候会想是不是方向有问题。效率上想说一下，之前每天光填网申就能搭进去两三个小时，后来用了牛客网申助手，基础信息不用重复填了，节省出来的时间拿去多刷了几道题。也许是心理作用，感觉状态比之前好一点...还在坚持的同学们加油，有投算法的来聊聊现在进展怎么样