1. 必须熟悉 DDPG 、 PPO 、 TD3 、 SAC 等算法的原理和区别。 这四种算法是连续控制（如机器人控制）中最常用的深度强化学习算法。 PPO (Proximal Policy Optimization)   原理：PPO是一种同策略（On-policy）的策略梯度算法。它使用截断（Clipping）机制限制新旧策略的更新步长，防止策略更新“翻车”。   核心公式：    数值计算示例： 假设在时间步 ，GAE计算出的优势函数 （正数，说明这个动作很好）。 设定截断超参数 。 如果新网络过于激进，导致新旧策略概率比 （新策略采用该动作的概率是旧策略的1.5倍）：   原始目标： ...

何意味😄

今天得空review了一下昨晚的笔试，AI研发方向的，整体上有一定的难度，感觉自己答得还可以吧，期待给个面试机会 20 道选择 + 3 道编程 + 1 道 Prompt，T1 签到，T2 贪心一眼秒，T3 是个数位 DP 有点东西，T4 Prompt 题考的是让 AI 算出租车费。 选择题概览 选择题一半 AI 一半 CS 基础，AI 方向的占比还是挺高的。 AI/Agent 相关的大概考了这些：Transformer 的 teacher forcing 训练推理差异、MHA/MQA/GQA 注意力机制对比、LangChain 和 LangGraph 的关系、ReAct 的机制边界、multi...