ai infra方向offer 选择有偿咨询

1. 字节火山引擎，主要是应用层推理套件的优化，也做国产卡的适配和应用；2. 百度飞桨框架团队，文心一言的训练和优化，也涉及到底层kernel优化和分布式优化；3. 摩尔线程，自研通用GPU的算法优化，涉及领域很广也很深入；4. 芯片初创，自研GPU的LLM优化，技术很先进和前沿，团队核心，wlb；想从职业发展前景，待遇和工作强度上都了解一下，有了解的大佬吗

1.你的 Agent 系统Prompt 是怎么设计和迭代的？有没有做过 Prompt 自动优化？当用户提出不完整的请求时，如何补全用户意图的？2.构建 Agent 的时候，遇到过哪些瓶颈？LangChain 的 memory 默认机制在多3.用户并发中怎么做隔离？你是如何保证线程安全的？4.微调 Llama2 你是怎么选择训练样本的？清洗逻辑是什么？你有没有观察到哪些训练样本质量问题对模型行为有很大影响？举例说明。5.DPO相比 SFT，有哪些优劣？它在 Agent 任务上效果提升明显吗？你怎么构造偏好对？构造逻辑是自动的还是人工？6.你说你服务部署在 vLLM 上，为何选择它？KV-cache 如何帮助推理加速？你自己做过哪些优化？7.假如需要支持 Streaming 输出，但当前服务延迟又超标，你会怎么折中设计？8.多轮对话上下文状态管理是如何做的？如何在高并发场景下保证一致性？9.你做的 Agent 使用了多少个外部工具，在调用链条上如何保障故障容错和超时机制？10.有没有做过工具调用失败后的feedback策略设计？11.训练过程中数据来自用户行为日志，你是如何从这些数据中抽取训练对话的？有没有做过归一化或事件抽象？12.有没有了解过带有时间窗口/偏移限制的对话系统？模型怎么“理解时间”？13.你觉得 Agent 哪些模块最容易在真实业务中出问题？你会如何监控和定位的？

有蔚来ai agent offer还要继续面别家吗rt，找27的日常实习，是做内部开发工具，ci/cd 的ai agent的。感觉蔚来在国内做ai agent还行？但我自己想去互联网厂。并且自己也在纠结是做后端开发还是agent开发。求建议，本人1月份回国，感觉还有半个月可以面试的时间，要不要再冲一个更好的offer呢。去做后端开发，或者更大的厂做agentbg可以看本人之前的帖子，有一个外企水agent实习。有一个国内水实习

bg双9，电商部门 大模型应用算法，开了35*16，a不了一点，逆天，直接拒了