1. 全参数微调的显存一般怎么估算全参数微调的显存不能只看模型参数本身，真正上线训练时至少要把参数、梯度、优化器状态和激活值都算进去。最粗略的估算方式是：如果模型参数量是 N，训练精度是 bf16，那么参数大约占 2N 字节，梯度再来一份 2N，如果用 Adam，还要额外保存两组一阶和二阶矩，通常再加 4N + 4N 字节。也就是说，不考虑激活值时，单参数相关内存大致可以按 12N ~ 16N 字节估。真正把 batch size、sequence length、checkpointing、并行策略加进去后，激活值往往才是大头。所以面试里如果只答“参数量乘 2”基本不够。更稳的答法是先给出静态...

正式进入AI Coding时代了  

之前一直在牛客刷大家帖子，看到了很多人吹捧大厂多好多好。但是说个会被喷的事实：双非本，秋招拿了5个offer，比我那个在某大厂实习的室友还多一个。他在大厂做了三个月，负责链路中的一个中间模块。听起来很厉害对吧？但面试的时候面试官追问这个特征是怎么选的召回策略谁定的，他只能说这部分是算法团队负责的。我在旁边听得都替他尴尬。我呢？在一家不过百人的小公司做了个后台管理系统，全流程就我一个人。你问我任何一行代码为什么这么写，我都能给你掰碎了讲，因为踩过的坑我全记得——凌晨两点调CORS跨域问题的那种刻骨铭心你懂吗。说到底面试官要的不是你title多好看，是你到底有没有真正做过这件事。大厂名字能帮你过简历关，但到了面试那一步，你做的东西是不是你的，一问就知道了。后来我室友也想明白了，他说我那三个月最大的收获就是知道了食堂哪个窗口最好吃。我不知道他是在自嘲还是在认真的。

又是一年暑期实习，整理了下去年影石校招二面面经：Android切换线程方式有哪些Handler的实现一个线程可以有多个handler吗一个handler的消息会发送给另一个handler处理吗三行代码在主线程的打印顺序是：print(A)handler.post{ print(B)}print(C)详细描述一下生产者消费者模型的代码实现HashMap为什么线程不安全？并发情况使用会出现哪些问题？详细说下并发扩容的线程安全问题HashMap扩容的具体操作对内存泄漏的理解出现内存泄漏怎么解决A持有B，B持有A，会导致泄漏吗GC ROOTS有哪些线上压测出现内存泄漏，怎么定位怎么从内存快照分析内存泄...