乐元素 AI推理研发工程师 社招 二面

半小时,主要是问项目,考察业务理解,方案解决思路,中间穿插项目涉及的知识点。
1. 自我介绍
2. 拷打项目,如何进行推理加速的,量化减少多少时间,剪枝减少多少时间。如何排查掉点问题,是如何想到走剪枝的方法,整个推理加速的思路。量化是什么,主要实现流程,主要量化方式有哪些,这些方法的区别。
3. 剪枝的流程(重要性参数微调,剪枝,精度恢复),数据集大小,如何分割,评估指标。
4. trt插件和核函数的实现方式,加速效果。nsys如何使用,排查推理瓶颈的思路。
5. 在线AI服务相关问题。
6. 反问,目前组内做内部的AI服务,三种方式,API(通过python,访问量大就扩容),SDK离线部署,APP/网页插件。
全部评论

相关推荐

想做乐观锁:都不用AI,咱们都古法编程吧,让节奏慢一点
点赞 评论 收藏
分享
04-02 10:09
门头沟学院 Java
用微笑面对困难:这里面问题还是很多的,我也不清楚为啥大家会感觉没啥问题。首先就是全栈开发实习9个月的内容都没有java实习生的内容多,1整个技术栈没看出太核心和难点的内容,感觉好像被拉过去打杂了,而且全栈基本上很容易被毙。里面能问的bug是在太多了比如L:继承 BaseMapper 可直接使用内置方法’。请问你的 BaseMapper 是如何扫描实体类注解如果瞬时产生 100 个上传任务,MySQL 的索引设计是否会有瓶颈?你做过分库分表或者索引优化吗?全栈的内容可以针对动态难点去搞,技能特长写在下面吧,你写了这么多技能,项目和实习体现了多少?你可以在项目里多做文章然后把这个放下去,从大致来看实习不算太水,有含金量你也要写上内容针对哨兵里面的节点变化能问出一万个问题,这个很容易就爆了。
提前批简历挂麻了怎么办
点赞 评论 收藏
分享
评论
点赞
1
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务