快手元中心

1. 说一下 SFT、RLHF、DPO 的区别，线上项目里你会怎么选？答：SFT 是监督微调，核心是让模型学会“像人一样回答”，训练数据一般是 prompt-response 对，优点是简单直接、稳定、成本低，适合把基座模型先拉到业务可用水平。RLHF 是先做 SFT，再训练奖励模型，然后通过 PPO 之类的方法让模型朝着“人类更偏好”的方向优化。优点是能更细致地对齐人类偏好，缺点是链路长、训练复杂、容易不稳定。DPO 可以理解成不显式训练奖励模型、也不走复杂强化学习，而是直接利用偏好对做优化，训练上比 RLHF 更简单，效果在很多场景下也不错。如果是企业大模型应用，通常优先级往往是 SFT ...

魔改的两个项目，怎么样？ 八股看了一点，hot100过了一遍，但感觉也忘得差不多了，能找到实习吗？

一面技术面侥幸通过，抠了项目的细节，问了几个拓展问题；想请教一下各位大佬，跟技术面相比，主管面更看重些什么，会问什么问题，该从哪些方面准备