ai产品

目前研0，双非本，研究生在中科院计算所。本科期间参加ACM竞赛：获得区域赛银和ECF铜目前技术栈基本为0，不知道要走什么方向，求推荐

各位🐮佬们，我想请教一下。算法题第二题，是不是判断子串不能用固定大小窗口，得用动态窗口，要不然就会超时呀？或者是在其他地方优化?我通过了65%

真服了，我不信有这个题，还不会 常见的业务题 ◆ 大模型（LLMs）基础面 • 目前主流的开源模型体系有哪些？ • prefix Decoder 和 causal Decoder 和 Encoder-Decoder 区别是什么？ • 大模型LLM的 训练目标 是什么？ • 涌现能力是啥原因？ • 为何现在的大模型大部分是Decoder only结构？ • 简单 介绍一下 大模型【LLMs】？ • 大模型【LLMs】后面跟的 175B、60B、540B等 指什么？ • 大模型【LLMs】具有什么优点？ • 大模型【LLMs】具有什么缺点？ ◆ Layer normalization 篇 • La...

真服了，我不信有这个题，还不会常见的业务题◆ 大模型（LLMs）基础面• 目前主流的开源模型体系有哪些？• prefix Decoder 和 causal Decoder 和 Encoder-Decoder 区别是什么？• 大模型LLM的 训练目标 是什么？• 涌现能力是啥原因？• 为何现在的大模型大部分是Decoder only结构？• 简单 介绍一下 大模型【LLMs】？• 大模型【LLMs】后面跟的 175B、60B、540B等 指什么？• 大模型【LLMs】具有什么优点？• 大模型【LLMs】具有什么缺点？◆ Layer normalization 篇• Layer Norm 的计算公式写一下？• RMS Norm 的计算公式写一下？• RMS Norm 相比于 Layer Norm 有什么特点？• Deep Norm 思路？• 写一下 Deep Norm 代码实现？• Deep Norm 有什么优点？• LN 在 LLMs 中的不同位置 有什么区别么？如果有，能介绍一下区别么？• LLMs 各模型分别用了 哪种 Layer normalization？◆ LLMs 激活函数篇• 介绍一下 FFN 块 计算公式？• 介绍一下 GeLU 计算公式？• 介绍一下 Swish 计算公式？• 介绍一下 使用 GLU 线性门控单元的 FFN 块 计算公式？• 介绍一下 使用 GeLU 的 GLU 块 计算公式？• 介绍一下 使用 Swish 的 GLU 块 计算公式？◆ Attention 升级面• 传统 Attention 存在哪些问题？• Attention 优化方向• Attention 变体有哪些？• Multi-head Attention 存在什么问题？• 介绍一下 Multi-Query Attention？• 对比一下 Multi-head Attention 和 Multi-Query Attention？◆ transformers 操作篇◆ LLMs 损失函数篇◆ 相似度函数篇◆ 大模型（LLMs）进阶面◆ 大模型（LLMs）微调面◆ LLMs 训练经验帖◆ 大模型（LLMs）langchain 面◆ 多轮对话中让AI保持长期记忆的8种优化方式篇◆ 基于langchain RAG问答应用实战◆ 基于LLM+向量库的文档对话 经验面.......#五一之后，实习真的很难找吗？##牛客在线求职答疑中心##笔试##面试#