阿里电话面试

最近进行了一次Qwen团队技术面，挂了，没有下一轮，整理材料如下，希望对大家有帮助。请简述Qwen大模型的整体架构设计及其核心创新点。Qwen模型在支持128K超长上下文时，如何解决显存和计算复杂度的问题？Qwen采用了哪些高效注意力机制？请详细说明FlashAttention及其变体的原理和优势。如何理解Qwen模型中的SwiGLU激活函数，它相比传统激活函数有哪些优势？请解释Qwen模型训练中混合精度训练的实现及其带来的性能提升。Qwen模型在推理阶段如何实现低延迟和高吞吐？有哪些优化手段？请描述Qwen模型的参数分布和稀疏化策略，如何在保证性能的同时减少计算资源消耗？大模型在生成文本时经...

已经面了三家小厂，全挂！。。。发现小厂基本很少问八股，都是问项目相关，但是感觉我项目亮点不够，第一个项目是直接找的开源包装，第二个是某外卖包装，怎么改进啊！目前打算周末好好过一遍项目，找找技术难点业务难点这些😭求求大佬给个建议，现在只想找段实习，起码秋招能稍微有点竞争力😤

一点消息没有，我也不想考研😭😭

纯聊天的一面，大概说了下我的垃圾小项目（都是课程项目和一个很水的实习项目 所以确实很烂我先骂了）然后面试官先是点评了一下实习项目 说就是功能实现 没有你的思考在里面然后问我那最近几年出来上课之外 也有自己的思考和探索吧 有什么可以聊一聊的 自己做的小工具？ 或者你在某方面的深度思考都可以我直接梗住了 上课已经够累了 原来大家都有自己的技术和探索吗面试官接着说希望候选人有系统性思考 你要在一个方向有独特的创新或者思考 要有结构化的思路和很一定的深度 我们希望找有这个技术热情和探索热情的同学 救命啊 尴尬了半个小时 被教育到有点破防了可是我只是想找个实习啊