面试官状态很好，思维活跃问了deepspeed zero，zero 1 2 3 的区别？模型显存占用大小，全参微调 32B 要占多少显存？sft 全参和lora的区别，什么时候用全参，什么时候用lora，lora的rank是什么意思，有什么用grpo是on policy还是off policy的？grpo 和 gspo的区别？做题超时删除，一个类，init()，get(key) value，set() key value 存下来 import timeclass TimeCacheDict: ''' ''' def __init__(self,expire_time:int): self.ca...

🤤

好久没写长文了，今天这个话题，其实我已经思虑良久，正好写下来。 众所周知，科技是指数级发展的，我们所预估的发展速度，远远比不上真实的发展速度，他不是匀速、也不是匀加速、而是滚雪球般。 最开始我们注意到的可能只是一个篮球大小的雪球，可是当你干点别的再回头看，它会变成什么？不是大雪球，是一万个大雪球，是一场雪崩。 一、AI的发展速度将远超我们想象 先讲讲历史来佐证我的判断，新能源从开始到现在，几年？每年得销量已经超越了燃油车，我可以说，中国未来新能源一定是世界第一，但具体哪些厂家会活下来，我不知道。 智能驾驶出来几年？从华为在问界M7上搭载的很不成熟智能驾驶，到现在端到端的智能驾驶，几年？三年有没...