那是实习第七周的一个下午。 导师在群里发了条消息："流量切换窗口定在今晚，大家准备一下。" 我盯着屏幕愣了几秒。那个我参与重构了将近一个月的服务，今晚要正式承接线上真实流量了。 说"参与"其实有点谦虚。最开始确实只是参与——导师把整体架构画在白板上，我负责其中一个子模块的实现。但后来事情慢慢变了。 第二周的时候，我在跑压测，发现某个环节的耗时曲线不太对劲。不是那种一眼就能看出来的异常，而是在流量逐渐上升的过程中，响应时间的增长斜率比预期要陡。我截了张图发在群里，问导师："这个趋势正常吗？" 导师看了一会儿，回了两个字："不正...

不知道过两年会变成啥样…   

这份题库不是随便凑出来的 100 道题，而是从大量面经和题目里 筛出来的高频题。我整理了上百套校招、实习、校招的大模型相关面试题，又结合公开平台上反复出现的问题，把那些 出现次数最多、覆盖岗位最广、面试最容易问到 的内容统一收拢，最后形成这套 大模型常考面试题100道76. 训练和推理为什么要区分开看？答：因为两者关注的目标完全不一样。训练更关注怎么把模型能力学出来，重点在数据、loss、优化器、并行训练和收敛稳定性；推理更关注怎么把模型高效跑起来，重点在延迟、吞吐、显存、并发和成本。很多技术在训练阶段成立，不代表在线推理就划算。所以做大模型不能只会训练或者只会部署，至少要知道这两套问题是分开...