1. 必须熟悉 DDPG 、 PPO 、 TD3 、 SAC 等算法的原理和区别。 这四种算法是连续控制（如机器人控制）中最常用的深度强化学习算法。 PPO (Proximal Policy Optimization)   原理：PPO是一种同策略（On-policy）的策略梯度算法。它使用截断（Clipping）机制限制新旧策略的更新步长，防止策略更新“翻车”。   核心公式：    数值计算示例： 假设在时间步 ，GAE计算出的优势函数 （正数，说明这个动作很好）。 设定截断超参数 。 如果新网络过于激进，导致新旧策略概率比 （新策略采用该动作的概率是旧策略的1.5倍）：   原始目标： ...

总的来说，这是一场收获很大的面试，感觉面试官不是以老员工的角度来拷打我，而是以一个引路人的视角带着我去思考一些场景问题，用一些真实场景来向我展示平时所学应该如何应用，然后问问题也都是笑着和我聊天那种问法，感觉是一个很有人格魅力的人，就是在他面前基本上说不了谎，而且感觉他更喜欢那种真诚地回答以及真实的思考，真的对我自己有很大的帮助，真的给字节点个大大的赞

双非本科，靠着字节、百度、蔚来三段实习一路撑到春招，到现在才真正认清现实。一封封感谢信砸过来，慢慢明白，学历和学校带来的门槛，远比几段光鲜实习要重得多。最让人无力的，莫过于拼尽全力刷实习、攒经历，最后却连一个入场机会都换不来，那种落差感真的太磨人。总自以为是地觉得，有大厂实习就够了，一定能挤进心仪的公司，可现实一次又一次把幻想击碎。现在的我，早已没了春招初期的锐气，只剩下满心的迷茫和惆怅。不知道是该坦然接受现实，还是继续抱着不切实际的期待，在大厂的梦里不肯醒。

选择题考了很多机器学习,深度学习模型训练有关的东西，没学过没啥头绪编程题第一题给一个长度为n的数组nums对其中的任意一个元素进行两种操作,每个元素最多可以被操作1一次和操作2一次,可以不操作操作1 将其/2并向下取整操作2 减去一个数字k(非负) 操作1可以进行a次，操作2可以进行b次 (a,b均小于n) 求经过操作后，可以得到的最小数组和 思路：先将数组排序，从最大的非负元素开始进行操作1，然后累加结果-b*k即可，注意开Long否则会溢出 时间复杂度： 通过90%样例第二题 class Solution { public long maxAlternatingSum(int[] nums...