阶跃星辰大模型算法实习一面面经

整体面试还是不错的，但是没后续了，不知道是哪里出了问题1. 如何进行混合加训2. 混合加训和 continue sft 你觉得哪个效果好，为什么？3. Sft loss的起点数值和收敛情况。4. 讲解一下 rlvr 使用的策略。5. 训练 1t 模型遇到哪些困难，跟小尺寸模型有什么不同6. Benchmark 测评情况，如何根据 benchmark 进行模型效果优化。手撕：top-p sampling、grpo

LZ也是经历了完整的秋招补录，获得了几个大模型相关的offer选择，***希望大家指导，有各offer的内部信息就更好了***字节 tts算法 自动出价与bid CVR模型 base杭州余杭 (n+2)*15 + m qzf  1-2（已签三方）华为 昇腾推理开发部 大模型推理 ai infra与vllm相关 base上海青浦 (n+2)*15 + (m+29) qzf（qzf三年发完，不含绩效月薪为n-4，年终奖具体月数存疑，面试官说有6-8）  16a蚂蚁国际 金融大模型算法 海外蚂小财+ai trading（海外以香港为主，也包含马来西亚等其余市场）base杭州 (n+2)*15 + 2k安家补贴 + (m+9) qzf p5腾讯 csig QQ浏览器 大模型算法 内容理解与AI搜 base成都天府 n*15 + (m+4)股票 + (m+5)qzf  t5（暂不考虑）个人考虑:1）个人现在是偏向华为这边，觉得纯大模型做的会更纯粹，比后训练更少基座迭代带来的反复，其余两家主做后训练与蒸馏2）华为给的非常有诚意，但是华为在企业风评这块比较差，强度也比较大，会顾虑强度与高期望能否接住的问题3）蚂蚁没开奖，这个垂域恰好是我最感兴趣的方向，抱有期待，最终可能在华为与蚂蚁之间选择

想入门模型部署，问了一下Gemini，他的回答如下，大佬们看看这路径可行吗？？？第 1-2 个月：打地基（Modern C++ & CMake & Linux）目标：能看懂推理引擎源码，能独立构建多文件 C++ 项目。核心内容：Modern C++：跟着 HKL 视频，重点吃透 智能指针 (RAII)、移动语义 (Move)、Lambda 表达式和简单的模板。CMake：掌握如何链接第三方库（OpenCV, CUDA, TensorRT），学会编写 find_package。CSAPP：重点精读 第 6 章（存储层次）。理解什么是 Cache Latency。里程碑：在 Linux/WSL 下用 CMake 构建一个调用 OpenCV 处理视频流的小项目。手动实现一个包含智能指针管理的简易内存池。📅 第 3 个月：拿手术刀（CUDA 编程入门）目标：理解 GPU 并行逻辑，能手写并优化基础算子。核心内容：核心概念：Thread, Block, Grid, Shared Memory, Warp Shuffle。实战任务：手写一个 矩阵乘法 (GEMM)。版本 1：朴素版（跑通）。版本 2：使用 Shared Memory 优化（速度提升 5-10 倍）。性能分析：学会使用 nsight-systems 查看 Kernel 执行时间。里程碑：手写一个自定义的图像预处理 Kernel（比如把 BGR 转成 RGB 并归一化）。📅 第 4 个月：炼金术（模型转换与 TensorRT）目标：把 PyTorch 模型变成 1660 Ti 上的极致推理引擎。核心内容：ONNX：学习如何导出 ONNX，如何用 onnx-simplifier 简化模型。TensorRT：掌握 trtexec 工具，学习编写 TensorRT 的 C++ API 推理代码（创建 Runtime、Engine、Context）。插件编写：尝试为一个 TensorRT 不支持的算子写一个 CUDA Plugin。里程碑：将 YOLOv8 导出为 TensorRT 引擎，并在 1660 Ti 上跑到极致 FPS。📅 第 5 个月：工业化（量化与性能压榨）目标：攻克部署最难的一环——精度与速度的平衡。核心内容：量化原理：学习对称量化 vs 非对称量化，理解 KL 散度。PTQ 实战：使用 TensorRT 的 Int8EntropyCalibrator 进行训练后量化。多线程部署：学习 C++ std::thread 或生产消费者模型，实现“视频读取-模型推理-结果渲染”的异步并行流水线。里程碑：完成一个低延迟、多线程的实时检测系统，对比 FP16 和 INT8 的精度损失与速度提升。📅 第 6 个月：破圈与冲刺（国产迁移 & 算法 & 面试）目标：将能力迁移，准备实习面试。核心内容：国产迁移：如果有条件，借或买一个 RK3588 开发板，学习 RKNN-Toolkit。你会发现，因为你有了前 5 个月的底子，这部分 2 周就能上手。算法刷题：每天 1-2 道 LeetCode，重点是数组、链表、排序。八股文复习：回顾 C++ 内存模型、操作系统基础。里程碑：整理简历，把“手写 CUDA Kernel 优化”、“TensorRT INT8 量化实战”作为核心项目写上去。

第一，模型咋变小？​ 面试官爱问轻量化方法。比如剪枝（删掉不重要的参数）、量化（把浮点数转成8位整数，省内存）、知识蒸馏（用小模型学大模型的知识）。举个栗子，之前做图像分类，原模型20MB，量化后压到5MB，边缘设备就能跑了。第二，硬件咋选？​ 得看场景。手机/摄像头用NPU（像华为麒麟的达芬奇核）或GPU；低功耗设备（智能手表）用MCU（带AI加速的，比如STM32H7）；纯CPU也能跑，但慢。关键看算力、功耗、成本平衡。第三，实时性和精度咋兼顾？​ 比如目标检测，原模型100ms一帧，太卡。试了剪枝+量化，降到30ms，精度掉了2%，但客户能接受。另外，用推理框架（TFLite、NCNN）调优，比自己写快很多。第四，踩过啥坑？​ 常见的是模型在PC上准，到板子上崩——可能是算子不支持（比如某些激活函数），得换框架或改模型。还有功耗爆炸，后来用了动态调频，闲时降性能，省电30%。