拉普拉斯算子的相关概念 拉普拉斯算子是一个二阶算子，比起一阶微分算子，二阶微分算子的边缘定位能力更强，锐化效果更好。 使用二阶微分算子的基本方法是定义一种二阶微分的离散形式，然后根据这个形式生成一个滤波模版，与图像进行卷积。 滤波器分各向同性滤波器和各向异性滤波器。各向同性滤波器与图像进行卷积时，图像旋转后响应不变，说明滤波器模版自身是对称的。如果是各向异性滤波器，当原图旋转90度时，原图某一点能检测出细节（突变）的，但是现在却检测不出来了，这说明滤波器不是对称的。由于拉普拉斯算子是最简单的各向同性微分算子，它具有旋转不变形。 对于二维图像，二阶微分最简单的定义（拉普拉斯算子定义）：  对于任...

梯度算子 想要得到一张图像的梯度，要在图像的每个像素点处计算偏导数。因此一张图像在位置处的和方向上的梯度大小和分别计算为：  上述两个公式对所有的和的计算值可用下面的一维模版对的滤波得到。  用于计算梯度偏导数的滤波器模版，通常称之为梯度算子、边缘算子和边缘检测子等。 经典一阶梯度算子 Roberts算子 Roberts算子又称为交叉微分算法，它是基于交叉差分的梯度算法，通过局部差分计算检测边缘线条。常用来处理具有陡峭的低噪声图像，当图像边缘接近于正45度或负45度时，该算法处理效果更理想。其缺点是对边缘的定位不太准确，提取的边缘线条较粗。 Roberts算子的模板分为水平方向和垂直方向，如下...

写在前面  【三年面试五年模拟】栏目专注于分享CV算法与机器学习相关的经典&&必备&&高价值的面试知识点，并向着更实战，更真实，更从容的方向不断优化迭代。也欢迎大家提出宝贵的意见或优化ideas，一起交流学习💪  大家好，我是Rocky。 本文是“三年面试五年模拟”之独孤九剑秘籍的第八式，之前我们将独孤九剑秘籍前六式进行汇总梳理成汇总篇。由于本系列都是Rocky在工作之余进行整理总结，难免有疏漏与错误之处，欢迎大家对可优化的部分进行指正，我将在后续的优化迭代版本中及时更正。 本系列接下来的每一篇文章都将以独孤九剑秘籍框架的逻辑展开，考虑到易读性与文章篇幅，一篇...

激活函数 一.激活函数的意义 为什么需要激活函数  激活函数对模型学习、理解非常复杂和非线性的函数具有重要作用。 激活函数可以引入非线性因素。如果不使用激活函数，则输出信号仅是一个简单的线性函数。线性函数一个一级多项式，线性方程的复杂度有限，从数据中学习复杂函数映射的能力很小。没有激活函数，神经网络将无法学习和模拟其他复杂类型的数据，例如图像、视频、音频、语音等。 激活函数可以把当前特征空间通过一定的线性映射转换到另一个空间，让数据能够更好的被分类。  为什么需要非线性激活函数  如果网络中全部是线性结构，那么线性的组合还是线性，与单独一个线性分类器无异。这样就做不到拟合逼近任意函数。 使用非...

Spectral Normalization是一种wegiht Normalization技术，和weight-clipping以及gradient penalty一样，也是让模型满足1-Lipschitz条件的方式之一。 Lipschitz（利普希茨）条件限制了函数变化的剧烈程度，即函数的梯度，来确保统计的有界性。因此函数更加平滑，在神经网络的优化过程中，参数变化也会更稳定，不容易出现梯度爆炸。 Lipschitz条件的约束如下所示： 其中代表一个常数，即利普希茨常数。若，则是1-Lipschitz。 在GAN领域，Spectral Normalization有很多应用。在WGAN中，只有满...

----【数据结构&&算法】---- 【一】常用数据结构的相关知识  数组：最基本的数据结构，用连续内存存储数字。创建数组时，我们需要首先指定数组的容量大小，然后根据大小分配内存。即使我们只在数组中存储一个数字，也需要为所有的数据预先分配内存。因此数组的空间效率不是很好，经常会有空闲的区域没有得到充分的利用。(可动态分配内存来解决上述问题)由于数组中的内存是连续的，于是可以根据数组下标O(1)时间读/写任何元素，因此它的时间效率是很高的。 字符串：最基本的数据结构，用连续内存存储字符。C/C++中每个字符串都以字符’\0’作为结尾，这样我们就能很方便地找到字符串的最后尾部。 链...

在目标检测领域，很多检测算法最后使用了全连接层，导致输入尺寸固定。当遇到尺寸不匹配的图像输入时，就需要使用crop或者warp等操作进行图像尺寸和算法输入的匹配。这两种方式可能出现不同的问题：裁剪的区域可能没法包含物体的整体；变形操作造成目标无用的几何失真等。 而SPP的做法是在卷积层后增加一个SPP layer，将features map拉成固定长度的feature vector。然后将feature vector输入到全连接层中。以此来解决上述的尴尬问题。  SPP的优点：  SPP可以忽略输入尺寸并且产生固定长度的输出。 SPP使用多种尺度的滑动核，而不是只用一个尺寸的滑动窗口进行poo...

【一】FPN(Feature Pyramid Network)的相关知识 FPN的创新点  设计特征金字塔的结构 提取多层特征（bottom-up，top-down） 多层特征融合（lateral connection）  设计特征金字塔的结构，用于解决目标检测中的多尺度问题，在基本不增加原有模型计算量的情况下，大幅度提升小物体（small object）的检测性能。 原来很多目标检测算法都是只采用高层特征进行预测，高层的特征语义信息比较丰富，但是分辨率较低，目标位置比较粗略。假设在深层网络中，最后的高层特征图中一个像素可能对应着输出图像的像素区域，那么小于像素的小物体的特征大概率已经丢失。与...

JS散度全称Jensen-Shannon散度，简称JS散度。在概率统计中，JS散度也与KL散度一样具备了测量两个概率分布相似程度的能力，它的计算方法基于KL散度，继承了KL散度的非负性等，但有一点重要的不同，JS散度具备了对称性。 JS散度的公式如下所示，我们设定两个概率分布为和，另外我们还设定，KL为KL散度公式。 如果我们把KL散度公式写入展开的话，结果如下所示： 深度学习中使用KL散度和JS散度进行度量的时候存在一个问题： 如果两个分布，离得很远，完全没有重叠的时候，那么KL散度值是没有意义的，而JS散度值是一个常数。这对以梯度下降为基础的深度学习算法有很大影响，这意味梯度为0，即梯度消...

KL散度（Kullback-Leibler divergence），可以以称作相对熵（relative entropy）或信息散度（information divergence）。KL散度的理论意义在于度量两个概率分布之间的差异程度，当KL散度越大的时候，说明两者的差异程度越大；而当KL散度小的时候，则说明两者的差异程度小。如果两者相同的话，则该KL散度应该为0。 接下来我们举一个具体的🌰： 我们设定两个概率分布分别为和，在设定为连续随机变量的前提下，他们对应的概率密度函数分别为和。如果我们用去近似，则KL散度可以表示为： 从上面的公式可以看出，当且仅当时，。此外我们可以知道KL散度具备非负...

----【图像处理基础】---- 【一】图像二值化的相关概念 图像二值化（ Image Binarization）是将图像像素点的灰度值设置为0或255，也就是将整个图像呈现出明显的黑白效果的过程。二值图像每个像素只有两种取值：要么纯黑，要么纯白。 通过二值图像，将感兴趣目标和背景分离，能更好地分析物体的形状和轮廓。 图像二值化的方法有很多，其中最经典的就是采用阈值法（Thresholding）进行二值化。阈值法是指选取一个数字，大于它就设为白色，小于它就设为黑色。根据阈值选取方式的不同，又可以分为全局阈值和局部阈值。全局阈值（Global Method），指的是对整个图像中的每一个像素都选用...

C语言的指针让我们拥有了直接操控内存的强大能力，而C++在指针基础上又给我们提供了另外一个强力武器引用。 首先我们来看一下C++中对象的定义：对象是指一块能存储数据并具有某种类型的内存空间。 一个对象a，它有值和地址&a。运行程序时，计算机会为该对象分配存储空间，来存储该对象的值，我们通过该对象的地址，来访问存储空间中的值。 指针p也是对象，它同样有地址&p和存储的值p，只不过，p存储的是其他对象的地址。如果我们要以p中存储的数据为地址，来访问对象的值，则要在p前加引用操作符，即。 对象有常量（const）和变量之分，既然指针本身是对象，那么指针所存储的地址也有常量和变量之分，...

[:n] [:n]代表列表中的第一项到第n项。 我们看一个例子： example = [1, 2, 3, 4, 5, 6, 7, 8, 9, 10] print(example[:6]) ---------结果--------- [1, 2, 3, 4, 5, 6] [n:] [n:]代表列表中第n+1项到最后一项 example = [1, 2, 3, 4, 5, 6, 7, 8, 9, 10] print(example[6:]) ---------结果--------- [7, 8, 9, 10] [-1] [-1]代表取列表的最后一个元素 example = [1, 2, 3, 4, ...

----【模型部署】---- 【一】模型压缩的必要性与可行性？ 模型压缩是指对算法模型进行精简，进而得到一个轻量且性能相当的小模型，压缩后的模型具有更小的结构和更少的参数，可以有效降低计算和存储开销，便于部署在端侧设备中。 随着AI技术的飞速发展，不管是移动端产品还是线上产品，进行AI赋能都成为了趋势。这种情况下，AI算法的实时性与减少内存占用都显得极为重要。AI模型的参数在一定程度上能够表达其复杂性，但并不是所有的参数都在模型中发挥作用，部分参数作用有限，表达冗余，甚至会降低模型的性能。 【二】X86和ARM架构在深度学习侧的区别？ AI服务器与PC端一般都是使用X86架构，因为其高性能；A...