乐元素 AI推理研发工程师 社招 一面

主要工作内容;模型部署是一小部分,大部分是提升AI服务的吞吐,保证系统稳定性

1.自我介绍

2.问项目,模型掉点如何排查,如何选型推理设备,vllm了解多少,为什么能加速。RAG、rerank如何使用,怎么提升命中率

3.系统性排查系统瓶颈,用户请求,推理服务,结果返回

4.如何设计AI服务,让系统利用率最大

5.手撕,字符串包含数字和符号,返回可能包含的ip地址

6.反问
全部评论

相关推荐

不愿透露姓名的神秘牛友
2025-12-18 11:21
优秀的大熊猫在okr...:叫你朋友入职保安,你再去送外卖,一个从商,一个从政,你们两联手无敌了,睁开你的眼睛看看,现在是谁说了算(校长在背后瑟瑟发抖)
选实习,你更看重哪方面?
点赞 评论 收藏
分享
评论
1
2
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务