1、知道 GPT 和 BERT 这种模型的基础框架是怎样的吗BERT 和 GPT 都是基于 Transformer 的预训练模型，但结构和任务目标不一样。BERT 一般采用 Transformer Encoder 堆叠起来的双向编码结构，在预训练时主要做 MLM，也就是随机遮盖一部分 token，让模型根据上下文去恢复被遮掉的词，因此它更适合理解类任务，比如分类、匹配、抽取、检索表示学习。GPT 采用 Transformer Decoder 堆叠起来的单向自回归结构，在预训练时做 next token prediction，也就是根据前面的 token 预测下一个 token，因此它更适合生成...

淘天 27 届暑期实习生正在招聘 各方向都有海量 HC 欢迎看我置顶帖子投递面试题 11：代码生成 Agent 和普通代码补全（Copilot 式）的本质区别是什么？设计一个能完成"跨文件修改"任务的代码 Agent，核心难点在哪？参考答案本质区别在于决策粒度。代码补全是行级决策——光标在哪，就在那个位置生成接下来几行代码。它的上下文是当前文件的局部内容，不需要做规划、不需要选择工具、不需要多步推理。本质上是一个"自动完成"功能，不是 Agent。代码生成 Agent 是任务级决策——接收一个自然语言描述的需求（"给这个项目加一个用户认证功能&...