字节实习 大模型应用开发一面 90min

#JAVA##JAVA面经##JAVA内推# 1. 你在 OJ 项目中使用 Docker 部署时，是如何保证容器启动顺序和服务依赖的？ 回答思路：   核心问题锚定：解决「依赖服务未启动完成，当前容器启动失败」的问题，核心是「控制启动顺序+健康检查」； 分层拆解方案：  方案1（基础）：使用 docker-compose 的 depends_on 配置启动顺序（如先启动MySQL、Redis，再启动OJ核心服务），但需补充：depends_on 仅保证启动顺序，不保证服务就绪； 方案2（关键）：在应用启动脚本中增加「健康检查逻辑」（如轮询MySQL端口/执行测试SQL，直到返回成功），确保依赖...

面试很难，还是要多多练习，感觉自己说不明白业务逻辑1.写一下attention公式(代码实现了下)2.训练时为什么要mask，推理时也需要吗?两处有什么区别?推理时的sequencelength和训练时一样吗3.transformer和传统seg2seg模型有什么区别?4.计算attention时为什么要除以dk，这个dk的含义是?attention计算时还有哪些scale处理?5.attention中softmax函数作用、公式、为什么有减去最值的处理?换个函数还能这样处理吗?6.解释数值上溢、下溢问题7.讲一下prompt书写的经验，如何判断prompt是否达标何改进prompt8.讲一下SFT，会对哪部分计算loss?为什么?9.讲一下deepspeed10.训练用一个7b模型要占用多少显存?不同zero阶段能够节多少显存?11.训练模型时用了几张卡，有遇到什么异常中断问题吗?

一天一个AI岗位介绍，今天要解读的JD岗位是——AI应用架构师。简单来说就是将大模型、AI 能力真正 “装进” App 里，用户能直接使用AI。从手机里的 AI 助手、智能翻译，到可穿戴设备的健康监测等等，都离不开AI应用架构师的工作。1.主要工作内容这个岗位的日常工作其实可以拆成四大块。首先是大模型应用的全流程落地：从数据准备、模型训练、评测，到推理部署，再到工程链路搭建，全程参与大模型在移动端的落地。然后是LLM的算法研究与落地，你要研究并落地各种 LLM 相关的前沿技术，比如：多模态大模型：让 AI 不仅能听懂话，还能看懂图、理解视频；RAG 检索增强：让 AI 能调用外部知识，回答更准...

我投的是高性能计算  结果被调到这个腾讯AI平台部的后台开发  这是什么意思呢