大模型

个人背景学校情况：211本中九硕，本硕都是计算机科班，但研究方向并不是NLP，而是图表示学习，算是转行成功论文情况：2A1B均为一作，其中1A(NeurIPS)+1B(ICDM)已发表，另有1A刊在投；除此之外，还有一篇A会撰写中实习情况：一段快手推荐算法日常实习一面/技术面 2024/3/28 晚上19:00-20:00自我介绍让讲两个拿手的东西，第一个介绍了NeurIPS那篇论文中间穿插着问了10多个问题，包括具体原理，数据集规模，下游任务等第二讲了快手的实习，主要干了些什么，中间穿插着10来个问题，面试官显然也了解GNN，因此这两部分耽误的时间较久问我主要是搞GNN这块的，是怎么接触到大...

一共50分钟左右，基本没八股1.自我介绍2.挑一个项目详细介绍一下，我介绍了一下我的RAG的项目，吟唱完面试官说提问几个重要的点，第一个问了一下数据集怎么构建的，第二个问了一下大模型怎么解决幻觉问题，第三个问我数据集构建问答切分怎么考虑语义问题3.让我详细介绍另一个项目，我另一个项目是论文项目，吟唱完面试官又提问几个重要的点，第一个问我论文里情绪划分详细怎么做的，第二个问我共情怎么定义的，都是论文相关的4.问我了一个场景题，问我在QQ和微信群聊场景中，如何进行热点话题识别，鼠鼠答了一下自己的理解，但是面试官刚开始不太满意，又延伸追问了几次5.问我有没有其他offer，实习的话时间能多长还有到岗时间，鼠鼠遂祭出祖传话术6.代码题，这个是电话面试，我还以为没有算法题，结果让我打开邮箱点链接开始做，要命；题是三数之和，但是他的代码框里比较质朴，没有代码提示，鼠鼠java的一些方法有点忘记了，就让我在本地写，写得磕磕绊绊的，好在是写出来了，鼠鼠太菜了😭——————————4.9—————————————-更新，喜提感谢信😭鼠鼠黑化了，蚁孝子化身蚁黑😡 #大模型# #面试中的破防瞬间#  #算法#  #实习，投递多份简历没人回复怎么办# #软件开发2024笔面经#

offer：美团（已拒），字节（暂时接了）流程中：wxg（等四面），通义（等二面），淘天（等三面），高德（一面过自己终止流程） #暑期实习#  #大模型#

25届想找算法实习，各位佬给点简历修改意见，非常感谢🥹 #算法#  #大模型#  #实习#

问的很细很深，狠狠拷打了80分钟，这个组做LLM pretrain的，我主要会rl，nlp缺乏点，一面凉自我介绍项目微调模型训练数据来源？LORA的理解Ptuning和全量微调对比RLHF全流程写出RLHF的优化目标公式目标公式中衰减因子的作用，取大取小有什么影响？RLHF的目标公式可以加入什么其他的项？熵正则项是如何加入的？KL散度理解？RLHF中PPO算比率相对什么来算？其中对数概率的作用？马尔科夫决策过程的定义，有哪些参数变量需要考虑？Reward model 训练的loss是什么？模型为什么会胡言乱语？根源在哪？可以考虑如何解决？模型微调会性能下降为什么还需要这一步？文本数据处理到进入...

个人背景可以看之前写的腾讯LLM面经一面 2024/3/28 下午17:00-18:00上来没有自我介绍直接介绍NeurIPS论文，中间穿插着一些提问说一下Transformer的整体结构了解有哪些位置编码方式吗说一下LLaMA中的旋转位置编码算法题：经典的求平方根，牛顿迭代法秒了算法题：判断一个字符串能否由另一个字符串旋转而来，比如abcd旋转后可以变成dabc或者bcda等，写完后面试官要求O(1)，临时没想出来详细说了快手的用户推荐算法实习，主要做了些什么你的NeurIPS论文能和推荐那边结合起来吗NeurIPS中论文中有没有考虑事件本身的一些属性，或者动态性什么的，我说后续有在考虑做这...

#腾讯#腾讯音乐 #暑期实习#实习生招聘 #大模型#NLP #算法实习生【岗位】NLP大模型实习生(角色对话方向)(暑期实习生招聘，有转正机会)【工作内容】NLP大模型在泛娱乐产业的应用研究探索-腾讯音乐Si14项目组主要负责虚拟人AIGC等相关应用技术的研发工作，支持未伴，QQ音乐，全民K歌等AI应用场景1、数据：大模型的数据自动获取，数据标注，数据清洗以及后处理。2、算法：大模型在角色对话方面的技术研究，包括：角色记忆力机制，对话上下文一致性，对话趣味性。文字剧本游戏的优化3、评估：对模型输出进行评估，协助撰写评估反馈文档，对标注人员进行培训。【岗位要求】1.计算机及人工智能相关专业优先，硕士优先，25届应届生优先；2.对NLP主流大模型如ChatGLM/LLaMA/Ziya/baichuan/Yi等的原理和差异有深入理解，掌握或了解大模型训练技术如SFT，RLHF等，微调技术如lora，qlora等； 3.熟练使用Python语言编程，linux环境和docker容器技术，深度学习框架pytorch，了解大模型训练框架Megatron-LM/Deepspeed，推理框架tensorrtllm；4.对新一代AIGC娱乐产品如Glow/未伴/筑梦岛/wow/悬河/哄哄模拟器等有了解和认识的优先；【简历邮箱】fanxiao@tencent.com#腾讯##腾讯音乐##暑期实习生##大模型##NLP#

一面自我介绍项目+论文为啥项目中使用Ptuning？说一下Ptuning的原理如何关注训练过程中的指标？ 训练步数如何确定？RLHF的整个流程详细llama factory代码看过吗？DPO了解吗？算法题 二分，medium， 旋转数组的最小数字二面二面面试官问了很多开放性问题，就是丢给你一个一个问题/实际的步骤，问你怎么解决，怎么考虑，而不是问某某东西的原理自我介绍项目训练大模型的数据如何弄的？RLHF的三个流程中你觉得哪个应该是最重要的？为什么？为啥RLHF中要用PPO？和其他RL算法的区别？为什么需要Rewar model？Reward model 如何训练？Reward model 你...

工作职责：1. 负责实现和迭代自然语言处理相关的算法以支撑企业数字化相关业务上自然语言理解和生成等需求，例如信息抽取，文档分析及检索，对话交互等 2. 与工程团队协作实现相关算法集成进产品，并支撑在实际金融业务场景中的迭代优化3. 负责某一细分领域的深入算法研究，例如但不限于基础模型开发，对齐研究、模型压缩、推理优化4. 维护相关研究和业务方向的基准（代码、数据、Prompt/Instruction等），将创新算法沉淀为论文、技术报告或专利任职要求：1. 硕士及以上学历，计算机、电子信息或软件等相关专业，有NLP/多模态/机器学习相关经验的其他专业背景亦可2. 有较强的研究能力和代码能力，熟练使用深度学习框架3. 具有优秀的分析问题和解决问题的能力4. 在国际顶尖期刊或会议（如ACL, EMNLP， NACCL，NeurIPS等）发表过论文, 知名NLP比赛中有优异表现, 能利用AI加速代码开发等优先5. 有语言/多模态基模型 (如类ChatGPT/GPT-4)研发应用和Prompt/Instruct Learning研究或工程经验的优先6. 有金融科技背景的优先---------------------------------工作地点： 上海，北京，深圳---------------------------------联系方式/简历投递：tanfei@sensetime.com---------------------------------#大模型##人工智能招聘##金融#

目前做的是多模态知识图谱与大模型方向。无论文，老师放养。目前掌握的基本上就是Transformer，bert，vit，clip，gpt这些模型的基本原理。现在应该系统学一些什么呢？求指教。 #大模型#  #实习#  #大厂#  #滴！实习打卡#  #投递实习岗位前的准备#

鼠鼠上次根据各位佬的意见微调了一下简历，不过有的不熟悉的技术没敢往上写，怕被面试官拷打这几周投了一些简历，然后上周面了一些，下周也约了一些面试，不过还有好多厂还没投，准备再投一波感觉自己简历还有问题但又说不出是哪里，希望各位路过的佬给点意见（25届找算法实习），感激不尽 #算法#  #简历被挂麻了，求建议#  #大模型#  #实习，投递多份简历没人回复怎么办#

        家人们，导师研一不给放，所以找了个小厂的大模型算法实习生，可以线上简直太香了虽然也收到一些中厂和独角兽公司的面试邀请，但还是决定选择线上小厂#实习##算法##大模型# #实习，投递多份简历没人回复怎么办#        第一份找实习旅程也告一段落了

大家好，我是鬼仔。去年底，OpenAI发布了一项革命性的技术：全新对话式AI模型ChatGPT。 一夜之间，AI大模型热得发烫。 这场由OpenAI引爆的大模型风暴，成功开启了未来8至10年的新一轮技术和产业变革，而国内也开展了"百模大战"，多家企业入局大模型。鬼仔作为一名在腾讯底层搬砖的算法工程师，也深刻感受到了大模型LLM强大的泛化能力和涌现能力。 试想一下，传统的算法业务流程是：先用人力审核足够多的样本，然后魔改微调预训练模型，最后验证效果。效果不行就继续加样本，或者继续改模型。 而现在呢，只需要几个样本（zero/few shot），再微调指令，就能让C...

大伙觉得哪个前景好，欢迎大佬们说说看法。我觉得好像搜广推里包含了很多模型相关的，所以我觉得可能模型好一些。 #搜索推荐#  #大模型#  #算法#  #NLP#  #算法工程师[话题]#  #模型算法#  #搜广推#  #前景#

北大系ai公司，同步招运营实习生！ #aigc# #算法# #多模态# #大模型# #算法岗位每日更新# #运营#