字节大模型数据与服务中心-模型基础能力

1.实习介绍+项目吟唱2.八股吟唱（部分不记得了）近20分钟2.1 RL相关：1.GAE是什么？2.蒙特卡洛模拟和时序差分估计的区别？3.偏差和方差是什么？4.GRPO的优势值是什么？怎么算？baseline是什么？5.RL训练MoE架构时的问题？怎么改进？问GSPO？6.DeepSpeed框架了解吗？7.Adam的公式是什么？8.Adam一阶矩、二阶矩和梯度更新是怎么算的？2.2 计算机基础：1.指针是什么？2.指针的长度是多少？3.考了一道指针的算法题，关于赋值的。4.BF16和FP16的区别？5.bit和byte的关系6.什么是时间复杂度？7.GPU死锁是什么？8.排序算法的一般的时间复杂度，并举例几个排序算法9.介绍一下快排，什么时候出现最差情况？为什么一般不会出现最差的情况？10.什么是动态规划？举个经典例子

TCP的三次握手与四次挥手？HTTP与HTTPS的区别？HTTP状态码？介绍一下Transformer架构的基本原理？Tranformer的Decoder与Encoder的区别？为什么现在大模型的发展更注重于Decoder？注意力机制的几个参数Q，K，V的含义以及公式？什么是检索增强生成技术（RAG）？开发Agent时工具流是怎么构建的？Java的集合介绍一下？ArrayList和LinkedList的区别？算法题：如何判断单向链表有环？

如图，都是go后端开发实习，图一某大厂，图二是某小厂（20-99人那种），但我看两者的要求(至少在文字描述)上差不多，我知道大厂这种需要熟悉两个项目+八股+手撕算法，那后者大概需要学到什么程度呢？想在大二暑假就有一段小厂实习

1.PPO 公式，是否可以没有 value model2.交叉熵公式？怎么计算的详细说下3.grpo 是什么，讲一下过程4.ppo 计算和 grpo 有什么不同，知道 gae 吗？5.grpo 有哪些变体？6.讲一下你对代码生成的看法，trae 中项目代码是怎么传进 llm 的知道吗？7.有直接试过 grpo 吗？有什么缺点？8.手撕：给定 n 行，每一行包括左指针、右指针和替换字符串，将指定字符串替换，如何优化？