发面经攒人品中...欢迎评论区交流～1.项目介绍2.介绍一下 CLIP3.了解 LORA 吗，LORA 微调的原理是什么4.了解哪些多模态大模型，简要介绍几个5.BLIP 的三个损失函数分别是什么，数据是怎样清洗的6.BLIP2 相对于 BLIP 有哪些改进，BLIP3 又有哪些改进7.Qwen-VL的三个训练流程分别是什么，有什么作用8.视觉编码器和 LLM 连接时，使用 BLIP2中 O-Former 那种复杂的 Adaptor 好还是 LLaVA中简单的 MLP 好，说说各自的优缺点9.代码:实现多头自注意力

攒人品中，欢迎评论区交流～1.在 LLM 的推理阶段，有哪些常见的解码策略?请解释 Greedy Search，Beam Search，Top-KSampling 和Nucleus Sampling(Top-p)的原理和优缺点。2.什么是位置编码?列举两种实现方式。3.请你详细介绍 ROPE，对比绝对位置编码它的优劣势分别是什么?4.MHA ,MOA,GOA 的区别。5.请比较一下几种常见的 LLM 架构，例如 Encoder-0 nly,Decoder-Only,和 Encoder-Decoder ，并说明它们各自最擅长的任务类型。6.什么是 Scaling Laws ?它揭示了模型性能、计算量和数据量之间的什么关系?这对 LLM 的研发有什么指导意义?7.请详细解释一下 Transformer 模型中的自注意力机制是如何工作的?8.什么是词元化?请比较一下 BPE()和 WordPiece 这两种主流的子词切分算法。9.你觉得 NLP()和 LLM 最大的区别是什么?10.开源框架了解过哪些?11.激活函数有了解吗，你知道哪些 LLM 常用的激活函数?为什么选用它?12.混合专家模型(MOE)是如何在不显著增加推理成本的情况下，有效扩大模型参数规模的?请简述其工作原理。13.在训练一个百或千亿参数级别的 LLM 时，你会面临哪些主要的工程和算法挑战?14.最近读过哪些 LLM 比较前沿的论文。

首先是能不能接触真实 LLM / 智能体业务；其次不是纯前端、纯数据标注，而是真的做 Agent；同时，实习时有没有人带你写代码、搭流程，有人带 = 能快速变强；最后，能不能接触工具调用、RAG、多智能体，能不能产出可展示的项目差实习： 天天洗数据、标数据、抄 prompt、打杂。好实习： 你能独立负责一个 Agent 模块。

推荐 LLaMA-Factory项目地址：https://github.com/hiyouga/LLaMA-Factory数据：⭐ 67k Star | 亚马逊/NVIDIA/阿里云都在用Web界面操作的大模型微调平台，支持LLaMA/Qwen/ChatGLM等30+主流模型，提供LoRA/QLoRA等多种微调方法，零代码完成训练，是目前最火的开源LLM微调工具。推荐理由简历硬通货：面试必问"微调过模型吗"，用这个1周出成果，企业级背书加分零门槛上手：Web UI点点点操作，中文文档友好，B站教程一堆资源友好：RTX 3060就能LoRA微调，支持量化训练降低显存需求功能全面：集成训练监控、一键导出模型、支持多种微调算法作者：Shepard链接：https://www.nowcoder.com/creation/subject/c86b85df08c9482790fafb0c53d5af6b来源：牛客网