工作_AI_CODING_想法_20260415001

1. 自我介绍2. 项目拷打3. Perplexity 的定义、公式和真正的使用边界是什么Perplexity 本质上是语言模型对测试序列平均不确定性的指数化表达。若测试集为(x1,…,xT),则 它等价于平均负对数似然的指数形式，值越低通常表示模型对数据分布拟合得越好。很多人只会背“越低越好”，但真正面试里要说明白：PPL 是训练分布拟合指标，不直接等价于问答质量、推理能力、事实性或者指令遵循能力。模型可能 PPL 更低，但在复杂推理或者对齐任务上不一定更强。4. 为什么不同 tokenizer 下的 Perplexity 不能直接横向比较因为 PPL 的分母是 token 数，而 toke...

有些问我南方人为什么跑东北读书，聊到后面问我倾向于在哪找工作，最离谱的是问我为什么不在东北找工作，定居东北，可是hr不看看东北有互联网吗，还有问我能不能接受加班，压力，我表达了我能接受还能把我挂了，乐

1. 自我介绍2. 说说你简历上这俩项目3. 多头注意力真正发挥作用的关键，不是“头变多了”而是什么多头注意力的核心不是把一个注意力拆成几份，而是把表示空间分成多个子空间，让不同 head 在不同投影下学习不同相关性模式。有的 head 偏局部词法关系，有的偏远距离依赖，有的偏结构性边界，有的偏位置模式。如果只是单头，模型只能在一个统一度量空间里做相关性匹配，表达会更受限。真正让多头有效的，不是“并行”两个字，而是不同头通过不同参数矩阵形成了多视角关系建模。头数继续增大并不一定更好，因为维度被切得过细后，每个头的表达能力又会下降，所以它本质上是容量分配问题，不是机械堆头数的问题。4. 为什么推...

我曾在某公司小厂（1000-9999）实习，亲身经历了一次大裁员，没有任何预兆，+1、hr也就比我们普通员工早知道一个工作日。当时，我手头上还有需求正在评审，身边不乏 25 届校招生、25 年社招刚入职的同事，无一例外全部裁掉；绝大部分业务线，不赚钱的、亏钱的全部砍掉。如今在其他大厂实习，部门非常赚钱，而且人也不多，本能地以为这是一个很安全的部门。和同事聊天的时候，才知道就是这样一个盈利多的部门，近几年也在降本增效；加上 AI Coding，可能今年开始社招的 hc慢慢减少，达到“只出不进”。我虽然不觉得LLM 能够完全取代程序员，毕竟程序员确实还要承担很多业务、沟通等问题，但是事实就是不再需要这么多人，有时候周会上，没有业务需求了，mt 就会找技术需求来做，原话“避免让上面的人觉得我们没干事”。只能说人心惶惶吧。LLM 带来了 AICoding 和 AI业务需求，后者的增长速度还是远小于前者带来的效率提升，甚至 Agent 开发现在这么火热，未来会不会和初入移动互联网时代的客户端开发一样泡沫破碎都难说。担心自己努力这么久，换来的是下岗的结局，原来想着猛猛卷、猛猛学技术，冲破 35 岁的枷锁，现在看来 coding 技术在 LLM 大人面前还是一文不值，能不能干到 30 岁都是个问题。