百度面试，一面的时候感觉还是不错的，主要介绍了一下项目经历，
bert模型的结构
transform的结构
multi-attention 多头注意力机制的原理
编写了两道编程题
①一个链表进行两两交换位置，编写程序
②给定一个数组[-1,2,3,4,7,-4,-5,8,0],使用时间复杂度为O（N）,的算法求解，动态规划
写时候有点没想明白，后来经过面试官提示之后才写出来最后的结果了，一面通过了
紧接着是二面，但是我等了好久没人，就先取消了
下午的时候一签到就开始了面试
1、项目经历介绍一下
①项目的背景详细介绍一下
②用到的什么模型，bert的实现方法
2、因为我做的东西里面有关于LSTM的，所以问了以下问题
①LSTM和RNN相比的区别有哪些
②LSTM的梯度消失问题怎么解决的
3、机器学习算法你有了解吧？
①SVM的原理
②决策树XGBoost 和LightGBDT，GBDT的区别
4、编程解决一个问题，平方损失的时候BP算法，进行学习的过程
5、关于神经网络的一些问题
①陷入局部最优解如何进行解决，这个问题应该答加入带有动量的优化器，或者求二阶导数
②求解二阶导数的时候的时间复杂度变成多少
③计算机矩阵求逆的计算复杂度
6、最后一个问题
①dropout的工作原理，以及在预测的时候他的作用是什么？怎么操作的