简述 Transformer 多头注意力机制理解词间关系的原理。​训练 Transformer 时，如何解决梯度消失或梯度爆炸问题？​GPT 等模型对 Transformer 结构做了哪些改进以提升生成效果？​如何优化 Transformer 模型预测速度？​说明 RAG 结合外部知识库与大语言模型提升回答准确性的机制。​用 RAG 构建问答系统时，如何处理检索内容不相关或不全的问题？​如何确定 RAG 系统中文档的合适切分粒度？​当 RAG 系统知识库数据量大、检索慢时，有哪些提速方法？​如何协同使用 Transformer 与 RAG 以发挥最佳效果？​用 RAG 优化模型回答，有哪些实用...

📍面试公司：B站💻面试岗位：大模型❓面试问题：手撕多头注意力机制，然后问了为什么除以dk，除了注意力，transformer还有什么，batch norm和layer norm的区别，非线性是谁提供的对比学习的loss聊了很久的论文，具体都有什么场景dpo和ppo的区别，包括理论上，还有项目实际落地闲聊+反问🙌面试感想：体验良好，整体氛围很轻松

上期写道刚开始面试的时候，这期写一写5月11号时候，这个时候手上就已经有两三家offer了，然后去北京的前一两天又发了三家offer随便选了个离公司近的工资高点的就去了。那么这期还是讲一下怎么去面试。其实面试的东西都一样，就是说你干过什么，回答问题就行了你要考虑的，不是这么去背八股文，而是要去琢磨到底要不要去实习，我个人而言，我最开始是因为电脑配置带不动才去好点的公司有好的卡给我用，然后呢去了也有工资，但是我的自由被限制了，我没法再天天琢磨新玩意我很痛苦，然后学会了怎么摸鱼，人家都是9点半来，我一开始是8点40到，我现在就吃了早饭再去差不多9点能到（就尽力偷懒还是最勤奋的那一批，因为人家都是老...

师兄字节毕业了fuck you money。师兄比我高一届。这才三年。我看到了未来的我自己。秋招一定要去多多！多多稳定。