潞晨科技大模型一面

45分钟

潞晨科技是做colossal AI的那个公司

面试官base 新加坡

团队介绍:
主要做的是训练框架,包括STF、RLHF、长文本、数据处理、MOE、模型评估。
团队人很少,主要base新加坡和上海。

不是核心的colossal ai,那个有同学在,做分布式训练

面试官上来之后看了一遍简历,说跟他完全不是一个方向,所以主要是我在介绍我的工作。从实习开始介绍,中间有问题会打断。

介绍完之后,面试官根据自己知道的结合简历一点一点提问。

对diffusion model的理解,为什么要diffusion,怎么扩散的?

为了下微调方法,知道哪些adapter微调,有什么区别?lora是怎么实现的,讲下细节。

layer norm和batch norm的区别,为什么nlp用layer norm比较多?

问平常用transformers库多不多,写torch多不多…

其他的记不起来了。

算法题是leetcode 221 最大正方形,要求必须python写
全部评论
持续跟踪
点赞
送花
回复
分享
发布于 04-18 16:39 安徽

相关推荐

头像
05-10 21:23
已编辑
东北大学 计算机类
点赞 评论 收藏
转发
1 5 评论
分享
牛客网
牛客企业服务