Agent开发实习一面分享-字节

发点面经攒攒人品~
1.实习拷打
2.项目拷打
3.RLHF中奖励模型(RM)的训练数据如何构建?
4.推理加速技术
5.模型剪枝/量化(GPTQ、AWQ)、服务化框架(FastAPI+vLLM)
6.如何优化大模型在长文本生成中的显存占用?
7.微调方法对比
8.设计一个ai爬取字节视频,如何设计?
9.Transformer自注意力机制、位置编码、梯度消失/爆炸的解决方案
10.如何解决大模型API服务的响应延迟问题?
全部评论

相关推荐

评论
点赞
收藏
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务