27届勇闯ByteInternet

1，vllm推理过程中哪些参数可以调优，结合经验来说。2，kafka避免重复消费，以及结合spark和flink讲讲定时任务3，服务的容错，docker和k8s4，python的装饰器和生成器5，GIL锁，多进程和多线程的区别6，http实现负载均衡的算法7，大模型的并行方式，多卡并行，张量并行，数据并行，流水线并行8，给定两个单词一个转换成另一个，只用删除插入和替换，返回最小操作数，以及打印每一步操作debug了快半小时才搞出来，现场丢人。

📍面试公司：科大讯飞🕐面试时间：2025-7-16💻面试岗位：飞星计划-深度学习框架和平台方向❓面试问题：自我介绍项目拷打 （用的什么模型，做了什么，参数量，多卡单卡，显存溢出怎么解决，pytorch版本，attention公式，除以根号dk的意义，attention里哪一步耗时最长）发散问题（优化器，激活函数，BN和LN，欠拟合和过拟合，部署，剪枝，量化）反问🙌面试感想：先技术面（30-40min），结束后等待通知，如果过了进行下一步HR面。我和技术面面试官聊了之后，感觉方向不是很匹配（官网飞星计划岗位描述不清晰），于是通知我接不接受转岗到普通秋招批次（更契合的岗位方向：AI研究算法...

楼主实习都是做的AI Infra，主要是大模型推理，在N卡上做vLLM和sglang的二次开发、简单算子开发、pytorch开发。本身秋招投的都是云侧大模型开发，但是也收到了一些其它稍微有点偏的方向的offer，所以非常纠结，想问各位大佬怎么看。1. 百度飞桨：百度飞桨框架的开发。技术上应该很不错，但毕竟飞桨生态不太行，且百度在走下坡路？2. 字节TT中台：感觉似乎非常核心，但是面试强度并不高，所以担心是不是有坑。且是偏传统推荐模型，而非大模型，和本身的预期有些偏差。但是TT背书很强？3. 腾讯太极：腾讯内部机器学习平台GPU推理训练框架开发，但是偏k8s后端，而非大模型推理加速本身，只是可能他们需要懂vllm和sglang的人。但是同部门似乎也有做ai infra的组，或许未来可以转？4. 阶跃星辰：端侧大模型infra。整体都挺好的，公司和政府绑定，端侧前景应该不错，只是需要从云转端。另外校招就去初创会不会不太好？5. 拼多多：gpu上具体vllm的infra开发，技术上很对口，聊的过程也感觉很好。优点就是匹配且钱非常多，缺点就是确实似乎有点太累了。目前的offer情况就是，业务非常对口的要么是中小厂（没有列出，但是也不是那种实力很差的小厂，而是一些大佬云集的初创，但是整体风险会更高，且应该没有很成熟的校招生培训体系），要么是拼多多（太累）。大厂要么是飞桨这种生态比较差的，要么是字节TT这种完全不是做大模型的，甚至腾讯这边是做传统后台开发的。所以非常纠结，想听听大佬们的看法。

研发，之前在牛客上刷了一堆小苯题目，试卷这道有点不像他的风格啊