我的秋招总结

LLM 大模型学习必知必会系列(二)：提示词工程-Prompt Engineering 以及实战闯关 prompt（提示词）是我们和 LLM 互动最常用的方式，我们提供给 LLM 的 Prompt 作为模型的输入，并希望 LLM 反馈我们期待的结果。 虽然 LLM 的功能非常强大，但 LLM 对提示词（prompt）也非常敏感。这使得提示词工程成为一项需要培养的重要技能。 推荐使用环境：通义千问 - 72B - 对话 - Demo · 创空间 (modelscope.cn) LLM 的超参配置 LLM 提供了一些参数可以影响输出结果的创造力和确定性。 在每个步骤中，LLM 会生成一个最有...

职位描述2021年4月，阿里集团成立智能信息事业群，聚焦AI技术在信息服务赛道的创新应用，从工具到服务，持续为用户提供高效、智能的互联网产品。智能信息事业群核心产品为夸克APP、UC浏览器、书旗小说、超级汇川等，以多APP矩阵，覆盖横跨各年龄段的数亿用户人群，服务超10万客户。目前我们正在用大模型服务于公司的多条业务线，作为智能信息的AI Infra团队，在这里你将深入参与到大模型的训练和推理中： 1、参与大模型离线训练的效率和稳定性提升的工作； 2、参与大模型在线inference吞吐/延迟优化，提升inference性价比的工作； 3、参与上述算力加速软硬件及平台体系化的设计和建设工作，支撑大模型能力建设和落地应用。职位要求，具备以下一项或多项能力：1. 熟悉C/C++、Python等至少一门编程语言，以及Linux下的开经验 2. 了解常用机器学习算法，对文本/多模态大模型相关领域模型，有极佳的工程实现能力，了解TF/Pytorch/Jax等深度学习框架，有相关模型训练和模型效果优化者优先 3. 了解大模型MegatronLM/Deepspeed/Colossal分布式训练框，了解模型量化、蒸馏、剪枝等模型优化原理和策略，有相关训练、调优经验优先4. 了解或使用过使用包括vllm/tgi/tensorrtLLM等模型推理服务框架，有代码分析及实践经验优先 5. 了解GPU/ASIC芯片，了解硬件系统架构，能够针对性的编写高性能的算子实现，有分析及调优能力 5. 在训练/推理加速相关领域的研究和成果发表者优先 ，也欢迎有HPC或体系结构背景的铜须同时我们还希望你 1、学习能力强，有良好的英文论文阅读能力，对新事物保有好奇心，并能快速适应新环境； 2、良好的沟通能力和团队协同能力；能与他人合作，共同完成目标； 3、对所在领域有热情，相信方法总比困难多，善于独立思考并反思总结。base地点：广州，欢迎感兴趣的同学留言、私聊或发送简历到邮箱zhangmaoquan.zmq@alibaba-inc.com

漫长又艰难的暑期实习寻找结束啦，一共拿到了不太多的几个offer，美团，腾讯，淘天，阿里云，还有一个小公司，最后估计大概率就阿里云了，应该会释放掉其他的offer。流程里还有阿里智能信息在终面，华为刚做了笔试，会坚持面完，毕竟每次面试都是和面试官学习的过程，但是大概率也不会去了。希望大家都能顺利找到实习，秋招继续加油哇！！！