如下 islower(str) 是否为小写字母 isupper(str) 是否为大写字母 isdigit(str) 是否为数字 isalpha(str) 是否为字母 isalnum(str) 是否为字母或者数字 toupper(str) 字母小转大 tolower(str) 字母大转小 strip(str) 去空格和c++一致

在L1/L2正则化中分别用到了L1范数和L2范数，本篇我们对常见的向量范数和矩阵范数进行总结。 1. 向量范数 对于向量 ，常用的范数包括  2. 矩阵范数 对于矩阵  3. Numpy计算范数 numpy包里的linalg模块，是专门处理基本线性代数问题的模块。借助该模块中的norm()函数可以轻松计算向量与矩阵的范数。 norm函数说明如下所示： def norm(x, ord=None, axis=None, keepdims=False): Matrix or vector norm. This function is able to return one of eight diffe...

Given a string, find the first non-repeating character in it and return its index. If it doesn't exist, return -1. Examples:  s = "leetcode"return 0.s = "loveleetcode"return 2.  Note: You may assume the string contains only lowercase English letters. [Python3 code] class Solution...

There are N children standing in a line. Each child is assigned a rating value. You are giving candies to these children subjected to the following requirements: Each child must have at least one candy.Children with a higher rating get more candies than their neighbors.What is the minimum candies yo...

在神经网络出现high variance也就是overfitting的时候，regularization(正则化)是一个很常用的方法。现在应用最为广泛的包括两种regularization方式：  L1/L2 regularization dropout regularization  其中本篇介绍L1/L2 regularization，主要包括：  L1/L2 regularization以及效果 加入正则化之后的梯度下降推导 代码实现 regularization能够解决overfitting问题的解释  L1/L2 regularization以及效果 1. L2 正则化 假设一个网络...

解决过拟合的办法  L1/L2正则化 dropout data argumentation （数据增强） early stop

1. Relu 激活函数在0点是否可导？ 答案：不可导。  2. Relu 激活函数在0点不可导，那怎么反向传播？ caffe源码："""bottom_diff[i] = top_diff[i] * ((bottom_data[i] > 0)+ negative_slope * (bottom_data[i] <= 0));"""这句话就是说间断点的求导按左导数来计算。也就是默认情况下（negative_slope=0）,RELU的间断点处的导数认为是0。 3. Relu 激活函数的优缺点？ 优点包括： 1.解决了梯度消失...

1. 反向传播基本方程 为了便于计算，我们定义l层的第j个神经元上的误差为: 反向传播基本方程：   BP1表示了输出层的误差如何计算 BP2表示了如何根据l+1层的误差来计算上一层也就是l层的误差 BP3表示了如何根据计算出的每层上每个神经元上的误差来计算参数偏置 的梯度下降方向 BP4表示了如何根据已经计算出的每层每个神经元上的误差来计算参数权重 的梯度下降方向。  1.1 BP1推导  1.2 BP2推导采用链式法则其中求导即可得：带入上式即可得到：通过上述两个式子，进行反向传播依次求取即可完成误差 的全部计算，然后基于计算结果计算参数的梯度下降方向 1.3 BP3推导采用链式法则将 带...