直接寄，30分钟速通，然后没手撕

BN层作用：BN层是对输入进行操作，具体是求得均值和方差以后，每个数减去均值除以标准差。如果你对高斯分布还有印象，你会知道，我们在把高斯分布从某个分布转化为标准高斯分布的时候，用的也是这个公式。大多数情况，我们也会假设我们的数据是服从高斯分布的。所以这样的操作，其实就是把分布尽可能转化为同一个分布。那么为什么要把不同批次的输入，都转化为同一个分布呢？因为你不能保证你的每个数据都是同一个分布的（有噪声），同时，在网络还没收敛的时候，网络的每一层变化，也无法让每个数据都变成同一分布，（一个序列经过一个复杂函数变换以后，还能保证是同一个分布吗？）这里的每个数据指的是每一个batch。而一旦数据不是同...

1.Transformer的多头注意力的作用：从GCN的角度就是探索更多的权重矩阵。原文的解释是MultiHead-Attention 提供了多个“表示子空间”，可以使模型在不同位置上关注来自不同“表示子空间”的信息。 即通过MultiHead，模型可以捕捉到更加丰富的特征信息。这里的多个表示子空间其实就是GCN里的多个权重矩阵。2.无序数组的中位数：这道题应该算是本科算法课的入门题了，找中位数和找任意第k个数是一样的方法。方法一：快排一次后，检查k落在哪个区域，然后对那个区域再进行一次快排。如此反复，可得答案。方法二：同样使用快排，但是对基准数不再随机，而是尽可能找出让两段区域长度相等的划分...

试题来自@ustc_zh 介绍lora，p-turing，各自优缺点 Lora是采用低秩矩阵分解的方式进行模型的微调，在transformer中，主要在wk，kq，wv，wo这四个矩阵中进行SVG分解，秩R是所设置的新的超参。 优点： 1）和原模型相比完全没有推理延时。 2）可插拔式的使用，可以快速针对不同的下游任务训练不同的lora权重（尝试过stable diffuion的不同LORA之后可以深刻的体会到它的优势） 3）低参数，适合小样本场景。 p-Turing是直接新增参数的方式进行的微调，在transformer中，主要在embedding层，wk，wv出拼接新的参数，以进行微调。 优...

还是非常easy的   x=input().split() y=[] for i in x:     y.append(int(i)) a=max(y) b=min(y) print(y) print(a) print(b)

没啥难度   x=input()  y={'a': ['apple', 'abandon', 'ant'], 'b': ['banana', 'bee', 'become'], 'c': ['cat', 'come'], 'd': 'down'} for i in y[x]:     print(i,end=' ')

复习一下print的格式化输出   cities_dict={'Beijing': {'Capital': 'China'},'Moscow': {'Capital': 'Russia'},'Paris': {'Capital': 'France'}} a=sorted(cities_dict) for x in a:     print('%s is the capital of %s！'%(x,cities_dict[x]['Capital']))

松分体，没啥好说的   survey_list=['Niumei','Niu Ke Le','GURR','LOLO'] result_dict={'Niumei': 'Nowcoder','GURR': 'HUAWEI'} for x in survey_list:     if x in result_dict:         print('Hi, %s! Thank you for participating in our graduation survey!'%x)     else:   &n...

num1=range(1,6) tuple1=tuple(num1) print(tuple1) print(len(tuple1)) num2=range(6,11) tuple2=tuple(num2) tuple3=tuple1+tuple2 print(tuple3) print(len(tuple3)) 栓条狗都写了

元组的函数：   if x in tuple：   tuple=('Tom', 'Tony', 'Allen', 'Cydin', 'Lucy', 'Anna') name=input() print(tuple) if name in tuple:     print('Congratulations!') else :     print('What a pity!')

x=input().split()这个老知识点   然后元组的切片   x=input().split() y=tuple(x) print(y[0:3])

还是基础，了解一下try-execpt的用法就ok了   entry_form=('Niuniu','Niumei') print(entry_form) try:     entry_form[1]='Niukele' except:     print("The entry form cannot be modified!")

基础题，没什么好讲的。   x=input() y=input() tuple=(x,y) print(tuple)

list=['apple', 'ice cream', 'watermelon', 'chips', 'hotdogs', 'hotpot'] while list:     list.pop()     print(list)