1. 必须熟悉 DDPG 、 PPO 、 TD3 、 SAC 等算法的原理和区别。 这四种算法是连续控制（如机器人控制）中最常用的深度强化学习算法。 PPO (Proximal Policy Optimization)   原理：PPO是一种同策略（On-policy）的策略梯度算法。它使用截断（Clipping）机制限制新旧策略的更新步长，防止策略更新“翻车”。   核心公式：    数值计算示例： 假设在时间步 ，GAE计算出的优势函数 （正数，说明这个动作很好）。 设定截断超参数 。 如果新网络过于激进，导致新旧策略概率比 （新策略采用该动作的概率是旧策略的1.5倍）：   原始目标： ...

一面3.11 45min1、拷打实习2、拷打实验室项目3、AOP、IOC4、Websocket和SSE5、DNS解析域名的流程6、基于UDP和TCP有哪些应用层协议7、completeableFuture的原理8、TD的原理，和MySQL的区别9、虚拟内存，段页式的优势和劣势10、 索引失效的场景11、Syn和AQS的区别12、spec的开发流程13、MongoDB的底层原理（不会）14、手撕：岛屿数量15、反问二面 3.16 75min1、过实习和项目2、AB测试3、kafka怎么防止丢消息4、https的握手过程5、如果你的室友正在访问一个http的网站，你怎么恶搞一下他6、kafka的I...