创业公司

（1）蚂蚁集团：Base杭州，暑期实习的组，组里氛围很好，方向做的是：大模型推理优化+编译，但是岗位在开发序列，今年由于接了新业务，工作时长有所增加（早10晚9），之前是比较轻松（早10晚7），组里主管对我很重视，入职有机会独立负责较好的项目，并且主管的技术视野很好，有很好的技术嗅觉；（2）字节跳动：Base上海，Data推荐架构大组，小组是做国内平台垂类推荐系统的（头条、红果、西瓜等），不是主端（抖音），不过主端也是同一个大组，未来可能有机会内部活水，听面试官说的工作强度还可以，早10晚9，但是听网友说今年大组整体的变动比较大，但是心里对字节有所期待，毕竟是宇宙厂；（3）美团：Base上海，大模型基座做LoongCat的推理/算子的组，是从北斗计划流转到正式批的，没有再次面试，是一面面试官和我聊的比较好，直接从北斗那边捞回来的，LoongCat是团子目前最出名的模型吧，所以组也算比较核心；欢迎评论区交流留言

11.19 一面1、自我介绍2、问了一下实习经历做的什么3、项目- 项目经历挑一个最难的点说一说- 为什么选择rocketMQ- 缓存一致性（canal具体是怎么操作的）- 会不会有超卖问题- 限流流程4、八股- JVM内存管理（如何避免内存泄漏）- hashmap数据结构（为什么增加了红黑树）- synchronic原理、项目中有用到吗、使用的注意事项- 线程池有用过吗，有什么注意事项- 线程数为什么这么选择- 慢SQL排查与解决- 双亲委派模型（是什么、为什么这么设计）- spring怎么解决循环依赖5、Linux- 查询线程的cpu占有率（列表、最高）- 查找文件- 编辑文件（小、大文本）6、微服务- feign和hystrix有了解吗- 熔断有了解吗，它是为了解决什么问题7、网络- 三次握手四次挥手减一次行不行8、ai相关- 有了解过ai吗- 提示词优化有了解吗- rag有了解过吗- 数据分析数据处理方面有了解过吗（讲了numpy那些，都还很入门，汗流浃背了）- 有没有学习过什么数据库之类的（讲了mnist手写数字数据库）这个数据库有什么实际应用场景吗9、编程题按层打印一棵树（写出大概率逻辑就行）10、反问总结：感觉自己知识面还是有点窄了，Linux部分没怎么答上来，ai部分也臭臭的，继续努力。还有就是回答的时候不够全面，有的平常看会了但答的时候还是漏了，还是多练吧面试官人很好，答不出来他也说没关系的，还会引导着说，反问的时候很诚恳的鼓励和建议，暖暖的11.21 出结果

1. 字节火山引擎，主要是应用层推理套件的优化，也做国产卡的适配和应用；2. 百度飞桨框架团队，文心一言的训练和优化，也涉及到底层kernel优化和分布式优化；3. 摩尔线程，自研通用GPU的算法优化，涉及领域很广也很深入；4. 芯片初创，自研GPU的LLM优化，技术很先进和前沿，团队核心，wlb；想从职业发展前景，待遇和工作强度上都了解一下，有了解的大佬吗

1.你的 Agent 系统Prompt 是怎么设计和迭代的？有没有做过 Prompt 自动优化？当用户提出不完整的请求时，如何补全用户意图的？2.构建 Agent 的时候，遇到过哪些瓶颈？LangChain 的 memory 默认机制在多3.用户并发中怎么做隔离？你是如何保证线程安全的？4.微调 Llama2 你是怎么选择训练样本的？清洗逻辑是什么？你有没有观察到哪些训练样本质量问题对模型行为有很大影响？举例说明。5.DPO相比 SFT，有哪些优劣？它在 Agent 任务上效果提升明显吗？你怎么构造偏好对？构造逻辑是自动的还是人工？6.你说你服务部署在 vLLM 上，为何选择它？KV-cache 如何帮助推理加速？你自己做过哪些优化？7.假如需要支持 Streaming 输出，但当前服务延迟又超标，你会怎么折中设计？8.多轮对话上下文状态管理是如何做的？如何在高并发场景下保证一致性？9.你做的 Agent 使用了多少个外部工具，在调用链条上如何保障故障容错和超时机制？10.有没有做过工具调用失败后的feedback策略设计？11.训练过程中数据来自用户行为日志，你是如何从这些数据中抽取训练对话的？有没有做过归一化或事件抽象？12.有没有了解过带有时间窗口/偏移限制的对话系统？模型怎么“理解时间”？13.你觉得 Agent 哪些模块最容易在真实业务中出问题？你会如何监控和定位的？