职位描述2021年4月，阿里集团成立智能信息事业群，聚焦AI技术在信息服务赛道的创新应用，从工具到服务，持续为用户提供高效、智能的互联网产品。智能信息事业群核心产品为夸克APP、UC浏览器、书旗小说、超级汇川等，以多APP矩阵，覆盖横跨各年龄段的数亿用户人群，服务超10万客户。目前我们正在用大模型服务于公司的多条业务线，作为智能信息的AI Infra团队，在这里你将深入参与到大模型的训练和推理中： 1、参与大模型离线训练的效率和稳定性提升的工作； 2、参与大模型在线inference吞吐/延迟优化，提升inference性价比的工作； 3、参与上述算力加速软硬件及平台体系化的设计和建设工作，支撑大模型能力建设和落地应用。职位要求，具备以下一项或多项能力：1. 熟悉C/C++、Python等至少一门编程语言，以及Linux下的开经验 2. 了解常用机器学习算法，对文本/多模态大模型相关领域模型，有极佳的工程实现能力，了解TF/Pytorch/Jax等深度学习框架，有相关模型训练和模型效果优化者优先 3. 了解大模型MegatronLM/Deepspeed/Colossal分布式训练框，了解模型量化、蒸馏、剪枝等模型优化原理和策略，有相关训练、调优经验优先4. 了解或使用过使用包括vllm/tgi/tensorrtLLM等模型推理服务框架，有代码分析及实践经验优先 5. 了解GPU/ASIC芯片，了解硬件系统架构，能够针对性的编写高性能的算子实现，有分析及调优能力 5. 在训练/推理加速相关领域的研究和成果发表者优先 ，也欢迎有HPC或体系结构背景的铜须同时我们还希望你 1、学习能力强，有良好的英文论文阅读能力，对新事物保有好奇心，并能快速适应新环境； 2、良好的沟通能力和团队协同能力；能与他人合作，共同完成目标； 3、对所在领域有热情，相信方法总比困难多，善于独立思考并反思总结。base地点：广州，欢迎感兴趣的同学留言、私聊或发送简历到邮箱zhangmaoquan.zmq@alibaba-inc.com

LLM 大模型学习必知必会系列(二)：提示词工程-Prompt Engineering 以及实战闯关 prompt（提示词）是我们和 LLM 互动最常用的方式，我们提供给 LLM 的 Prompt 作为模型的输入，并希望 LLM 反馈我们期待的结果。 虽然 LLM 的功能非常强大，但 LLM 对提示词（prompt）也非常敏感。这使得提示词工程成为一项需要培养的重要技能。 推荐使用环境：通义千问 - 72B - 对话 - Demo · 创空间 (modelscope.cn) LLM 的超参配置 LLM 提供了一些参数可以影响输出结果的创造力和确定性。 在每个步骤中，LLM 会生成一个最有...

金三银四都快过去了，大家应该都有满意的offer了吧？想来聊聊这次暑期实习求职中的一些不愉快经历。lz是本硕9，找实习前非常担心自己找不到好的实习工作，但师兄们一直安慰美团很好过，保底去团子。往年他们都是一周之内光速拿到offer。今年美团很早就开了，也是我最早开始笔试的，说实话早期刷题不够，笔试做得很差，后三道一道也没A，但是分数综合起来5题做了3/5。srds，团子还是很快约一面了，大数据部门的，但我其实是做存储的，一般写C++，对Java那套大数据一点不懂。面试官问我愿不愿意转，我说非常愿意😅。面试过程非常轻松，基本问问常见八股，回答也很流畅，算法题也经典快排+接雨水。我以为可以像师兄描述那样速通，结果第二天就收到感谢信了。此后快一个月再没有部门约面，三个志愿慢慢地都结束流程了。这期间很焦虑，我们组6个同学找实习，另外5个人都速通拿了美团offer拿来做保底。我开始怀疑自己的能力，包括面试回答是不是真的有点问题，以及项目深度太浅了😭此间，感谢我的好兄弟帮我想办法，在知乎上找到了团子和我方向匹配的组的招聘信息，我主动联系了对方求捞。但遗憾说搜不到简历，作罢。后来时隔一个月，团子突然发来约面邮件，我一看是分布式存储，心里一惊，方向非常匹配。一面过程也很愉快，面试官主要围绕我的项目提问，基本没问八股，算法题好像是第K大的数。反问环节面试官很积极地给我介绍他们做的东西，心里暗喜能稳（此时我还0 offer），总算有个保底offer。但我被晾了3天，再次收到了感谢信。此后我再也没有被美团约面。想问问uu们咋看我的团子面试经历。

漫长又艰难的暑期实习寻找结束啦，一共拿到了不太多的几个offer，美团，腾讯，淘天，阿里云，还有一个小公司，最后估计大概率就阿里云了，应该会释放掉其他的offer。流程里还有阿里智能信息在终面，华为刚做了笔试，会坚持面完，毕竟每次面试都是和面试官学习的过程，但是大概率也不会去了。希望大家都能顺利找到实习，秋招继续加油哇！！！