1. 如果想要在某个模型基础上做全参数微调，究竟需要多少显存？这个问题不能只看模型参数量，还得把训练时真正占显存的几部分一起算进去。全参数微调时，显存通常会被下面这些东西吃掉：模型参数本身梯度优化器状态前向传播保存的激活值CUDA 运行时和框架缓存如果用的是 AdamW 这类优化器，除了参数之外，还要额外维护一阶矩和二阶矩，所以训练显存会明显高于推理显存。一个比较粗糙但实用的经验是：全参数微调的显存，往往是模型权重显存的 6 到 12 倍左右，具体还得看序列长度、batch size、是否开 gradient checkpointing、是否做 ZeRO/FSDP 分片。拿 7B 模型举例，F...

26届目前四百沟通，五个面试，已面三个感觉面试官都是不太想通过的样子，而且都是实习转正的回答卡一下就感觉不想通过。

这几天疯狂在boss直聘和应届生上投简历，结果一个回复都没得，是不是简历有啥问题😭，主要投的都是产品岗，求友友们帮忙看看

总结一下近期找实习的感受吧，鼠鼠是过年前吧实习给辞职了。过完年，到现在还在找实习中。个人感觉AI对底层程序员或者实习生的冲击很大，很多公司都不要那么多人手了，例如以前计划招5个人，现在只要2 3个人就能覆盖日常的开发任务。属实是把我们的实习坑位给填满了。总结其实大家不必要听风就是雨，取代程序员是不可能的，因为永远有业务这个东西存在，也需要有个人来背黑锅等等问题。只能说是会淘汰掉不会用AI的人，所以加油吧码农们，我们都是最棒的，能找到好工作的