字节跳动 一面 算法岗。凉面（OC） 面经

题主本人中9本华5硕，本硕都学的是通信工程，现在做信号处理方向，现在研一，想去互联网公司，实验室做的和机器学习不相关，不可能有相应的论文，想问问牛友我这种情况是选后端开发呢还是搜广推算法和LLM算法呢（听说这两个不卡论文，无论文相关也可，不知道真假），以及想了解这几种岗位未来发展前景，题主小白真诚发问#后端#

✅一面1️⃣深挖多模态论文2️⃣介绍transformer架构3️⃣详细说一下Decoder的因果注意力 QKV分别来自哪4️⃣Attention为什么要做scaled 不做会怎么样 为什么用根号d_k5️⃣Transformer怎么做加速训练（KV缓存） 训练和推理有什么区别（并行化）6️⃣深挖多模态大模型论文用的video-llama 讲一下大模型的结构7️⃣论文用了CoT讲一下论文的CoT是怎么样的8️⃣微调用的LoRA介绍一下LoRA9️⃣LoRA初始化怎么做的，用的秩是多少，为什么不选其他的数1️⃣0️⃣知道deepspeed和megatron吗？分别介绍一下1️⃣1️⃣论文用的deepspeed详细讲了一下三个stage分别是什么✅二面1️⃣深挖多模态和大模型的论文2️⃣Decoder文本生成有哪几种方法3️⃣还知道哪些多模态大模型4️⃣介绍一下ALBEF、BLIP5️⃣BLIP2的结构是什么  两阶段怎么训练的 有哪些损失6️⃣知道PEFT吗 讲一下LoRA7️⃣还有什么微调方法 -> prefix-tuning和P-tuning 两者分别是怎么做的 为了解决什么提出的8️⃣后面就是一些场景题✅三面1️⃣深挖论文2️⃣讲一下multi-head attention 用pytorch手撕一下 要可以实现cross attention的3️⃣讲一下你用的大模型是什么结构 特征是怎么喂给大模型的4️⃣大模型训练为什么不用SFT5️⃣LoRA是什么？有什么好处6️⃣知道RLHF吗？讲一下训练流程7️⃣接下来就是好几个场景题，电商相关的，用大模型解决prompt应该怎么设计，怎么处理prompt的输出，怎么过滤错误格式的输出📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

目前刚刚进上海小红书实习不到半个月，突然又接到杭州蚂蚁那边的电话oc，业务上我无法判断两者的高低，不过小红书的待遇太低了（300一天无房补），对比蚂蚁感觉差太远了，所以比较摇摆，求网友建议。小红书：搜推引擎开发（Java），做的是为搜索推荐算法同学服务的对内工具，目前感觉技术含量不算特别高，但是对内工具开发起来比较爽（用户就是我们的测试），以后好像有机会能接触一些大模型应用（知识库搭建、RAG链路等），还有小红书实习貌似没有转正机会。蚂蚁：基础平台研发（Java），隶属于平台技术事业群-数据智能平台与服务部，目前已知的是做数据库的平台，估计是数据库上面的应用层开发，Hr说的是数据库的改动（alter table?）会经过这个平台。而且这个实习有转正机会。有了解蚂蚁这个平台的友友嘛，不知道有没有什么坑。还有我是科软的，所以这一段实习必须满7个月，稳定性也是我着重考虑的点，希望能得到一些建议，拜托了🙏🏻#小红书继续待着 or 跑路去蚂蚁？     

1.字节 （非抖音）、总包38，边缘b端业务，995.2.拼多多，总包49（算上加班费），业务未知，11116两个工作岗位一致，都是前端，不考虑工作地，对比如下。a.业务前景：字节业务不行，不好说会不会短时间内业务都没了，拼多多业务未知b.稳定性：字节有末尾淘汰，拼多多不裁员，但有竞业，三年后基本必竞c.工作强度：字节995，拼多多11116，单日时长差不多，主要就是拼多多单休，虽然有加班费但是是单倍d.晋升&涨薪：字节无普调，拿a或晋升才能涨薪，；拼多多一年普调一次或两次e.个人情况：都需要跟对象异地、两个base和对象的距离差不多，单休会导致见面时间短且没有个人生活：但是程序员黄金时间就那么多年，不知道要不要为了钱放弃双休。求求大家在评论区给给建议，拜求了。引流：腾讯，阿里，淘天，阿里云，字节，抖音，百度，快手，美团，携程，拼多多，得物，小红书，网易，大疆，小米，华为，vivo，oppo，荣耀，银行，春招，校招，实习，转正，开奖，#拼多多求职进展汇总# #字节求职进展汇总# #牛客创作赏金赛# #字节求职进展汇总# #字节跳动工作体验# #哪个瞬间让你对大厂祛魅了？# #牛客创作赏金赛# #牛客激励计划# #校招我听劝# #我的2024牛客高光时刻# #你最近一次加班是什么时候？#