百度 数据挖掘/机器学习 连续三面

【一面】1. word2vec的原理，skip-gram训练的具体流程，使用的损失函数，是怎么选择正负样本的，选择样本上有哪些优化算法，负采样的原理，还有哪些优化方法2. 贝叶斯调优，机器学习中有哪些优化参数的方法，为什么交叉熵会作为softmax结果的损失函数？梯度下降为什么有效，关于损失求一阶导数为什么有效？刚你提到了泰勒一阶展开，泰勒二阶展开有哪些相关的优化方法呢？3. SGD的原理，计算公式是什么，4. 在图的那个项目中担任了什么角色，做出了哪些贡献5. 介绍一下LSTM，seq2seq和transformer，介绍一下attention的原理6. Linux，bash这些有用过吗7. auc的计算方式（使用(FPR,TPR)算，排序公式去算），为什么这两种都可以计算出auc呢？它们之间有什么联系？然后就是使用sql写出auc的计算公式8. 有1000部电影，想要给人推荐，你有什么思路9. 手撕：接雨水，使用sql写auc【二面】1. cnn做bn的方式，rnn是怎么做的，bn的好处2. gpt和transformer的区别3. 机器学习中方差和偏差的理解4. bagging和boosting的区别5. 位置编码的理解，attention的理解6. transformer和rnn的区别7. lstm为什么可以缓解梯度消失8. 异构图，GCN，word2vec，fasttext，9. SGD和adam的区别，在DNN中分别适用于什么样的情形10. 用过哪些DNN模型，11. 贝叶斯在推荐中的应用12. bagging和boosting的方法有哪些13. 手撕：三数之和，柱状图中的最大矩形面积【三面】1. 会C和C++吗2. 数据结构的掌握程度3. 平常使用的技术栈有哪些4. 对推荐的了解5. 有哪些召回算法6. 对于推荐中排序的理解7. 排序算法，稳定性和时间复杂度8. 互联网每天都有很多用户搜索数据，在一天的日志中找到搜索频次最高的10个query，怎么实现（topk问题，使用堆）9. 堆排序稳定吗，时间复杂度（刚才在回答排序算法的时候，没有说到堆排序）10. 搜索的词条补全 是根据什么数据结构实现11. 现有的春招推进情况12. base地点倾向许愿许愿！！！

感觉是其他部门交叉面，视频信号太差了卡了几次最后没办法转成电话面了。简单自我介绍，主要问简历上的项目，包括项目里觉得做的最好的是哪个，使用的模型技术，具体是怎么做的，有没有落地。基本没怎么问八股。最后手撕了一道字符串编辑距离，秒了（dp就会01背包和编辑距离😁）反问环节问了一下还有几次，面试官说应该是最后一次技术面了，40min结束。

#快手# #暑期实习# #二面#  #推荐算法# #推荐算法面经# 时间2024年4月3日 15:00 总计65min1.自我介绍 2.本科推荐系统项目（参考一面面经）3.论文4. 讲一讲CTR预估和序列推荐模型- DIN DIEN SIM  Caser GRU4Rec SLiRec CLSR MIND....5. 了解矩阵分解吗- MF、LFM6.LSTM模型介绍，几个门的作用7.transformer模型结构8.自注意力机制的计算复杂度(原始qkv)- O(dn^2)9.二分类任务的损失函数，搓个交叉熵代码10.怎么理解交叉熵- 条件熵，含义可以理解为预测概率分布和真实概率分布之间的差异程度11.优化器optimizer了解吗- 开始吟唱：[BGD、miniBGD、SGD]=>SGDMAdagrad=>RMSProp=>Adam12.一阶动量和二阶动量在Adam公式中的位置13.为什么需要对神经网络进行初始化，全部初始化为相同的值会怎么样- 梯度反传相同=>网络退化14.最长上升子序列：板子题，动态规划O(n^2)，动规+二分O(nlogn)，时间够写了两种解法反问环节：1. 是否和一面面试官一个团队（二面再问团队规模和业务方向有点怪）2. 后续提升方向：聊了很多，感悟也很多，觉得面试官人还怪好的。（虽然本来就只打算套个评价）奇怪的是，面试官问我是没参加秋招吗，我回答说找的是暑期实习。然后面试官说他那边看着是投递的春招的岗位，所以按照这个标准来面的，那没事，我帮你操作一下，变更到暑期实习，方便推进下一步流程。我顿时亚麻呆住了，难怪八股强度这么高，优化器和网络退化都整出来了。==========感觉能过，面得酣畅淋漓，是这么多场面试发挥最好的一场了。希望有三面，我快要撑不下去了，找暑期实习属实磨人。=====更新，当天晚上就约三面了，4.9，不愧是“快”手。

#实习##蚂蚁##算法#电话面试，光速下班。答出来的不说了。两个没答出来的。1）设计损失函数，让第一大的预测结果和第二大的预测结果差值最大化    直接回答的loss加一个-(first - second)，似乎不被接受。请教了一下AI，它提出了一些可能的方法：    penalty = torch.clamp(margin - (first - second ) contrast_loss = 1 / (first - second + 1e-6) => 距离度量形式进行了改编 rank_loss = F.relu(margin-(first - second)) => 基于ReLU的设计，和1差不多        2）KMEANS聚类的时候，如果先验的已知某些结点不是一类，应该怎么做    step1：对于这个策略，我们可以手动选择聚类中心，确保已知的不应属于同一类的点（例如点A, B, C）从一开始就被分配到不同的聚类中。初始的簇中心点一定满足要求。    step2：执行KMEANS常规的聚类过程。并且检查特定点是否在同一聚类：    每次迭代后，查看点A、B、C的聚类标签。如果发现任何两个（或三个）点属于同一个聚类，那么进入下一步。    step3：重新分配点到其他聚类：为了重新分配，首先计算这些点到所有其他聚类中心的距离。选择一个距离第二近的聚类中心（或根据具体情况选择最合适的），将其中一个或多个点分配到该聚类。    step4：更新聚类中心：在调整了聚类分配后，重新计算所有聚类的中心，以最小化整体的代价函数。这通常意味着要重新计算每个聚类中所有点的平均位置作为新的聚类中心。    重复迭代：step234：继续执行K-means迭代，直到满足收敛条件，即聚类中心的变动非常小或达到预设的迭代次数。沉默太久了，真的折磨，不是我能去的公司，太菜。现在回想，其实也不是太难的问题。可能是太紧张了吧。放平心态继续前行