科大讯飞 nlp实习 20250228

主要问项目 量化 用的gptq 后量化 量化用了什么数据 性能下降怎么样 训练时量化 qlora 介绍一下分词器 有哪些 按子词 字符分 bpe bbpe sentencepiece 你怎么训练的蒸馏 白盒蒸馏 loss怎么设计 我说kl散度 面试官说 这个很基础 有没有了解别的 不了解 面完就去了解介绍下 dpo ppo 区别什么的 没什么逻辑的说了一下ppo 老说不好 我说我能说一下loss 不过漏说了一个部分 然后又从loss角度说了一下dpo 简单问了 rag 的步骤之类的还有一些忘了  面试官很好还有就是城市选择 主合肥了 反问下午约二面希望二面也能过了 #科大讯飞#  #科大讯飞一面#

 总时长38分钟老套路，先是进行了自我介绍，3分钟完成。自我介绍完，我主动的问面试官，我要不要对我的主要工作做一个简要的汇报，面试官说可以，于是我便开始照着ppt阿巴阿巴。我发现这是一个很有用的技巧，因为若面试官同意汇报，相当于是把面试官引入了我的节奏，我讲的所有东西都是我亲手做过的，而且这样后，面试官问的问题也会和项目中内容相关，这样就会回答起来非常得心应手。这样就比你什么都不说，然后面试官突然提一个冷门的知识，你在那支支吾吾半天答不上来好太多了。而且，他在这问的问题越多，由于时长原因，后面问的其它问题就会越少。这场面试印象比较深的一个问题的是，PPO相对于其它策略梯度的算法有什么优势？我画图讲解了PPO使用了优势函数，让训练过程更加快速和稳定。然后面试官说，除了优势函数，PPO还有一个技巧来方法网络更新是参数差距过大，没等他说完，我赶紧抢着说，PPO有两种方式来实现更新时参数差距过大，一个是KL散度。。。。。。一个是截断函数。。。。。。通过这两种方式来实现早停。。。。。。讲完ppt后，面试官也没问其它的问题，进入了手撕代码环节。给了两个题目，让二选一。第一题又臭又长，我看都没看完，貌似是让你用python实现某个机器学习过程。第二题就比较简单，给定一个二叉树，让你输出每层节点的最大值，果断选择第二题，并几分钟写完了代码。然后面试官看我写的比较快，又让我用pythorch手动实现一下MLP，当时也没想那么多，就写了一个单层的MLP。最后反问环节，我还是问了老掉牙的问题，进去后主要干什么？是否有人带。现在想想估计面试官听这些也都听腻了吧。下次就问应该提前学些什么或准备些什么吧。

强双非本 + 985 控制研 1 ，有一段个人觉得含金量不高但是 title 还可以的机器人实习，研究生 cv 放养组，随时可实习，是继续走机器人（具身智能）呢，还是直接转码呢 。- 机器人方向    - 优点：可能是像智驾一样的风口，专业对口。    - 缺点：放养组发不了对口的论文。上个月投了一段时间中小厂实习，拿到了蔚来和某机器人中厂的 offer，但是因为薪资/方向不好拒了。同时机器人算法岗感觉 hc 比较少。小红书上看到过学历和论文都更优秀的大佬秋招没有很好的 offer。机器人哪怕算法岗好像都没有比大厂 Java 后端白菜薪酬高。深度学习只会 A + B 。- Java 方向    - 优点：可能会更简单？学院有比较多转码先例。    - 缺点：非科班，几乎从 0 开始（之前只有 C++，Python 和一些 408 基础），担心变成 Java 烧烤 。目前正在看黑马点评。#方向选择##机器人##Java##转码#引流#华为##京东##小米##牛客AI配图神器#

面试有点简单，面完直接过了1.自我介绍2.attention的计算公式追问：为什么除根号dk3.bert和gpt了解吗(only encoder/decoder)4.lora原理5.模型蒸馏6.用过哪些微调7.BN和LN的区别8.过拟合怎么处理9.数据不平衡怎么处理