科大讯飞大模型算法一面 业务拷打

发点面经攒攒人品~
1.实习拷打
2. 论文拷打
3.有什么涉及的具体的应用吗
4.我看里面上写上面写了一些知识图谱的一个构建说一下这个这个任务的一个输入和输出吧,大概你用到了什么数据,然后什么模型去产出什么样的一个东西
5.你这个图谱里边都有哪些类型的实体?关系是怎么定义的
6.你用了BERT去做实体识别哈,那为啥用BERT呢?能不能直接用个BiLSTM搞定
5.我看你提到了LayerNorm,这块为啥要用个条件LayerNorm有什么作用
6.说一下transformer的底层结构吧
7.Transformer为什么用了LayerNorm呢
8.你说你做了一个Multi-Head Self-Attention,那注意力权重那部分你还记得公式是咋算的吗?
9.说一下LoRA原理
10.刚才提到用LoRA做参数高效微调的必要性,那如果不是用LoRA,而是做全参数微调,那会消耗多少显存,比如说我以一个7B规模的大语言模型为例
11.说说现在千问里有哪些主流的大模型结构
12.项目拷打
13.那你们这个DAG 图是怎么构建的?根因节点怎么推出来的
全部评论
强烈推荐!这个笔记写得很清晰 http://github.com/AccumulateMore/CV
1 回复 分享
发布于 今天 09:23 广东

相关推荐

发一下问题给大家参考,攒攒人品!1 项目拷打2. 在 Agent 多轮对话任务中,Attention 的局限性具体体现在哪些方面?3. 简要介绍 SFT 的核心流程,以及如何制定数据集的构建策略?4. SFT 之后常见的 Post-Training还有哪些?它们各自的设计目的是什么5. 什么是RAG它提升生成质量的核心原理是什么6.RAG与传统的检索 + 模型生成流程有何不同7.如何构建评估体系来验证一个RAG系统是否真正Work?8.PPO和DPO在对齐阶段的主要区别是什么?9. 在进行DPO训练时,通常有哪些关键的注意事项?是否了解过GRPO10.在Modular Agent中,多步规划是如何实现的?11.针对多个工具的调用链路,你的调度策略是如何设计的12. Agent 评估体系包含哪些核心维度?如何量化衡量Planning能力与Hallucination Rate )?13.在微调Qwen模型时,你是如何确定训练阶段和 Loss Function的?14. Prompt自动推荐模块应用了哪些优化策略?是否尝试过Prompt压缩或Embedding表示的方式?15.假如Agent推理链路包含3个工具且请求频率极高,导致系统整体延迟较高,你会从哪些维度进行优化?17.在记忆系统中,意图识别 承担什么职责?18.Embedding的维度选择(如 1024 维)是基于什么逻辑?为什么不选择更高或更低的维度?19.Qwen-4B的Embedding是如何实现的?其模型框架是否属于 BERT 系列?20.Qwen-34B的Rerank是如何实现的?21.Attention机制中的Q, K, V矩阵具体是如何通过输入变换得到的?22.Attention公式中除以根号d_k的作用是什么?如果不除以它,是否有其他替代方案?23.请详细解释Multi-Head Attention ,并指出它目前存在的主要问题24. 如何解决多头注意力机制计算开销过大的问题25. 什么是 RoPE ?它核心解决了什么问题?26. 在 Memory  系统中,如果输入文本过长,常见的工程处理策略有哪些?
查看24道真题和解析
点赞 评论 收藏
分享
评论
点赞
1
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务