字节笔试

很多人被问到这个问题时，第一反应是：“因为大模型本质上是概率模型。”这句话不能说错，因为在别的题目场景下，这句话可以作为引用证明试用，但在这个问题下肯定远远不够。面试官往往会继续追问一句：“概率模型怎么了？概率模型就一定会编吗？”如果你答不上来，那这一题基本就丢分了。1：模型从一开始就不是为了“说真话”大模型的训练目标其实很简单：预测下一个最可能的Token。但关键在于，这个目标和“说真话”并不是一回事。在训练过程中，模型从来没有被明确区分过“这句话是真的”还是“这句话是编的”。它学到的只是：在某种上下文下，什么词最有可能出现。因此，它掌握的是语言的统计规律，而不是对世界的真实建模。这就带来一...

两段实习……春招好冷淡啊，投了一大堆，约面俩，都过了十多天没动静，其它也没动静，boss已读不回哎，怎么办啊，焦虑死了……

大佬们🥺，我是28届的，想在暑假或者9月份（也许如果能早点就是5月份开始投，不知道来不来得及）找个实习，现在已经把项目差不多做完了，一个是hmdp，还有一个是二哥的聪明派项目，在想要不要继续优化升级一下项目。然后八股和算法还没有开始，想问问接下来怎么规划时间线比较好和什么时候投简历最好。现在初步做了份简历出来，恳请大佬们拷打一下我的简历🥲

1、知道 GPT 和 BERT 这种模型的基础框架是怎样的吗BERT 和 GPT 都是基于 Transformer 的预训练模型，但结构和任务目标不一样。BERT 一般采用 Transformer Encoder 堆叠起来的双向编码结构，在预训练时主要做 MLM，也就是随机遮盖一部分 token，让模型根据上下文去恢复被遮掉的词，因此它更适合理解类任务，比如分类、匹配、抽取、检索表示学习。GPT 采用 Transformer Decoder 堆叠起来的单向自回归结构，在预训练时做 next token prediction，也就是根据前面的 token 预测下一个 token，因此它更适合生成...