腾讯24暑期teg大模型算法面经

4.26更新：4.23HR面后进入录用评估，昨天已收到offer邮件！祝大家也早日收到满意的offer！#晒一晒我的offer#

—— —— —— —— —— —— —— —— —— ——

10分钟后更新：发面经真的会有好运！10分钟后状态就更新为HR面了

—— —— —— —— —— —— —— —— —— ——

#如何判断面试是否凉了#4.10初试，4.16复试后面试官让等HR电话，目前官网还是复试链接状态，慌得一批。。。
听说发面经有好运，许愿早日进HR面！

初试：（约50分钟）
1. 面试官介绍部门
2. 自我介绍
3. 聊简历
4. 八股
    Q：如何规范LLM的回答？
    A：1.SFT微调；2.上下⽂学习（prompt中给例⼦）；3.涉及到专业领域时，使⽤RAG

    Q：RAG实现？
    A：1.分割文档 2.使⽤向量模型将文档转为向量（对⽐学习，双塔模型）3.将向量灌⼊向量数据库；4.将⽤⼾query转为向量，并在向量数据库中检索；5.设置距离阈值，将前n个最相关的结果给到大模型

    Q：Transformer中的⾃注意⼒？
    A：将每个token embedding与Wq，Wk，Wv相乘得到Q，K，V。对于每个token，计算其Q与所有token的K之间的点乘，通过softmax转为系数，与对应token的V相乘得到与该token的注意⼒。

    Q：Transformer中的Q与K点乘后，为什么要除以根号下dk？
    A：点乘当dk较⼤时，会导致结果较⼤，经过softmax后可能会导致梯度消失。除以根号下dk相当于正则化，防⽌梯度消失

    Q：SVM基本原理？
    A：最⼤化超平⾯和⽀持向量之间的margin

    Q：SVM是⼆分类模型，如何处理多分类问题？
    A：训练多个⼆分类SVM模型对应于每个类别，判断样本是否属于该类，最后根据每个模型结果的置信度得到结果

    Q：SVM是线性模型，如何处理⾼维问题？
    A：使⽤核函数对数据进⾏升维

5. 算法题：DFS模版题，较简单

6. 提问环节
    Q：有什么可以提⾼的地⽅？
    A：多了解模型微调

复试：
聊简历，一道算法题，20分钟结束
算法题：给定字符串，输出其中不包含重复元素的最长子串的长度