腾讯的上海ai infra招人嘛

（1）蚂蚁集团：Base杭州，暑期实习的组，组里氛围很好，方向做的是：大模型推理优化+编译，但是岗位在开发序列，今年由于接了新业务，工作时长有所增加（早10晚9），之前是比较轻松（早10晚7），组里主管对我很重视，入职有机会独立负责较好的项目，并且主管的技术视野很好，有很好的技术嗅觉；（2）字节跳动：Base上海，Data推荐架构大组，小组是做国内平台垂类推荐系统的（头条、红果、西瓜等），不是主端（抖音），不过主端也是同一个大组，未来可能有机会内部活水，听面试官说的工作强度还可以，早10晚9，但是听网友说今年大组整体的变动比较大，但是心里对字节有所期待，毕竟是宇宙厂；（3）美团：Base上海，大模型基座做LoongCat的推理/算子的组，是从北斗计划流转到正式批的，没有再次面试，是一面面试官和我聊的比较好，直接从北斗那边捞回来的，LoongCat是团子目前最出名的模型吧，所以组也算比较核心；欢迎评论区交流留言

1. 小鹏：AI 芯片的AI编译器 （N + 3） * 15（如果在公司是待满12个月，确定可以拿13薪，年终2个月），base 上海2. 理想：AI 芯片的AI编译器 （N + 7） * 16（销量不佳，年终1～2个月），base 杭州3. 摩尔线程：GPGPU AI 编译器 N * 16（能拿1～2个年终），base 杭州4. 地平线：模型部署base 上海。未开奖 + 3615. 春招继续找杭州的互联网大中厂现在主要纠结的是理想和摩尔线程，摩尔线程刚 IPO，感觉做 GPGPU 之后社招也好跳槽？理想的 base 高很多，但是非 GPGPU 架构。另外 base 地非常倾向于在杭州，但是在杭州给的起这些薪资的大概也就只有互联网大厂了，之前没有 llm 推理相关的经验，秋招在面互联网大厂（字节、小红书）的时候匹配度不佳。需要趁这段时间做一些 llm 春招再冲一冲互联网大厂吗？

1. 字节火山引擎，主要是应用层推理套件的优化，也做国产卡的适配和应用；2. 百度飞桨框架团队，文心一言的训练和优化，也涉及到底层kernel优化和分布式优化；3. 摩尔线程，自研通用GPU的算法优化，涉及领域很广也很深入；4. 芯片初创，自研GPU的LLM优化，技术很先进和前沿，团队核心，wlb；想从职业发展前景，待遇和工作强度上都了解一下，有了解的大佬吗

1.你的 Agent 系统Prompt 是怎么设计和迭代的？有没有做过 Prompt 自动优化？当用户提出不完整的请求时，如何补全用户意图的？2.构建 Agent 的时候，遇到过哪些瓶颈？LangChain 的 memory 默认机制在多3.用户并发中怎么做隔离？你是如何保证线程安全的？4.微调 Llama2 你是怎么选择训练样本的？清洗逻辑是什么？你有没有观察到哪些训练样本质量问题对模型行为有很大影响？举例说明。5.DPO相比 SFT，有哪些优劣？它在 Agent 任务上效果提升明显吗？你怎么构造偏好对？构造逻辑是自动的还是人工？6.你说你服务部署在 vLLM 上，为何选择它？KV-cache 如何帮助推理加速？你自己做过哪些优化？7.假如需要支持 Streaming 输出，但当前服务延迟又超标，你会怎么折中设计？8.多轮对话上下文状态管理是如何做的？如何在高并发场景下保证一致性？9.你做的 Agent 使用了多少个外部工具，在调用链条上如何保障故障容错和超时机制？10.有没有做过工具调用失败后的feedback策略设计？11.训练过程中数据来自用户行为日志，你是如何从这些数据中抽取训练对话的？有没有做过归一化或事件抽象？12.有没有了解过带有时间窗口/偏移限制的对话系统？模型怎么“理解时间”？13.你觉得 Agent 哪些模块最容易在真实业务中出问题？你会如何监控和定位的？