亚信科技实习

1.说一下 Transformer 的底层结构吧Transformer 的核心是用自注意力代替传统序列模型里的递归结构。一个标准模块通常包含多头自注意力、前馈网络、残差连接和 LayerNorm。自注意力负责让每个 token 和其他 token 直接交互，前馈网络负责做非线性变换，残差和归一化负责保证深层训练稳定。它真正厉害的地方不是结构复杂，而是信息传播路径短，长距离依赖更容易建模，并且天然适合并行训练。2. Transformer 为什么用了 LayerNorm 呢因为 BatchNorm 依赖 batch 维度上的统计量，但 NLP 任务里句子长度不一致，线上推理时 batch 也经常...

今天周一休息，突发奇想写一篇阶段总结。如题，我已经去了一个和Java彻底毫无关联的行业。曾经我以为自己能在计算机行业发光发热，没想到刚入行一年多就当了逃兵。从最开始的热爱到现在一看到代码就厌恶，不知道自己经历了什么。所以我去干什么了？答案是：在成都当了租房销售。上班那会压力大了就念叨着去干租房中介，但是一直下不去这个决心，想着自己学了四年多的计算机知识，终究还是不甘心。终于在某一天准备八股文的时候，看着无数篇和工作内容关系不大的理论知识，那一刻下定决心，决定尝试一下销售行业，也算是给自己一个交代。后面阴差阳错的投了成都自如去当租房管家，没想到面试很顺利，在当天一百多个面试的人里面，我成为了为数不多通过的几个幸运儿之一。目前已经培训通过，正式入职，也开了单，也有压力但是每天过得很开心，真心喜欢那种和人交流的感觉，哪怕是最后没有选择找我租房。说这些也是想告诉那些大三，大四正在找Java实习而焦虑的同学：你们现在还年轻，选择很多，容错率也很高，可以尽情去尝试自己喜欢的行业和工作。不用因为某一次的面试没通过或者简历石沉大海而焦虑，更不用因为身边人都在挤编程的独木桥就强迫自己跟风。也算是自己的碎碎念吧，也希望自己能在新的领域取得一点小成就。也祝牛油工作顺利!

遇到一个民科乐子，最难绷的一集。

1. 项目里是把 skill 直接塞进 system prompt 的，如果 skill 太多，占用上下文窗口太大，怎么处理不能把所有 skill 常驻塞进 system prompt，这样会带来三个问题：上下文窗口被占满、候选技能噪声太大、模型在选择 skill 时更容易混淆。更合理的方式是把 skill 做成外部注册表，system prompt 里只保留最小规则和调用协议，真正的 skill 描述按需动态注入。常见做法是先做一层 skill routing。可以用规则、分类模型或者向量检索先筛出 topk skill，再把这几个 skill 的 description、参数 schema...