华为

1. 如果想要在某个模型基础上做全参数微调，究竟需要多少显存？这个问题不能只看模型参数量，还得把训练时真正占显存的几部分一起算进去。全参数微调时，显存通常会被下面这些东西吃掉：模型参数本身梯度优化器状态前向传播保存的激活值CUDA 运行时和框架缓存如果用的是 AdamW 这类优化器，除了参数之外，还要额外维护一阶矩和二阶矩，所以训练显存会明显高于推理显存。一个比较粗糙但实用的经验是：全参数微调的显存，往往是模型权重显存的 6 到 12 倍左右，具体还得看序列长度、batch size、是否开 gradient checkpointing、是否做 ZeRO/FSDP 分片。拿 7B 模型举例，F...

现在才学到苍穹外卖，会不会太晚了TvT，在想能不能找小厂刷刷实习经历，这简历可以试着投吗？有人能指点一下吗，谢谢大佬

如题，怕纯后端岗位未来 扛不住，想找一个ai大模型开发的工作。友友们看看那个智能ppt生成项目，是不是已经很普通了。还有我的简历是不是内容很杂。想在春招冲一冲ai开发的工作，求友友们对简历给一些建议。

妇女节，把镜头留给途虎的女孩们——她们在办公室和会议室也在聚光灯下、雪山和海边 🏔️☕️工作再忙，也不忘好好生活 途虎女孩，不止一面今天祝你们节日快乐，永远做自己的太阳 ☀️也欢迎更多女孩，来途虎和我们一起发光！