Agent开发实习一面分享-字节
发点面经攒攒人品~
1.实习拷打
2.项目拷打
3.RLHF中奖励模型(RM)的训练数据如何构建?
4.推理加速技术
5.模型剪枝/量化(GPTQ、AWQ)、服务化框架(FastAPI+vLLM)
6.如何优化大模型在长文本生成中的显存占用?
7.微调方法对比
8.设计一个ai爬取字节视频,如何设计?
9.Transformer自注意力机制、位置编码、梯度消失/爆炸的解决方案
10.如何解决大模型API服务的响应延迟问题?
1.实习拷打
2.项目拷打
3.RLHF中奖励模型(RM)的训练数据如何构建?
4.推理加速技术
5.模型剪枝/量化(GPTQ、AWQ)、服务化框架(FastAPI+vLLM)
6.如何优化大模型在长文本生成中的显存占用?
7.微调方法对比
8.设计一个ai爬取字节视频,如何设计?
9.Transformer自注意力机制、位置编码、梯度消失/爆炸的解决方案
10.如何解决大模型API服务的响应延迟问题?
全部评论
相关推荐
查看7道真题和解析 点赞 评论 收藏
分享
不知道怎么取名字_:其实感觉是他们想提高自己的存在感 点赞 评论 收藏
分享