输入为四个numpy数组,分别表示输入序列、查询权重矩阵、键权重矩阵和值权重矩阵。
返回一个numpy数组,表示自注意力的输出。
[[1, 0], [0, 1]] [[1, 0], [0, 1]] [[1, 0], [0, 1]] [[1, 2], [3, 4]]
[[1.6604769 2.6604769] [2.3395231 3.3395231]]
1.对应的输入、输出已给出,您只用实现核心功能函数即可。2.支持numpy、scipy、pandas、scikit-learn库。