《深度学习》第17、18章有感
本周看了“花书”第17、18章 蒙特卡罗方法 直面配分函数
随机算法可以粗略地分为两类：1、Las Vegas 算法 2、蒙特卡罗算法 其中，Las Vegas 算法总是精确地返回一个正确答案。这类方法通常需要占用随机量的计算资源（比如，内存或者运行时间）。而蒙特卡罗算法返回的答案具有随机大小的错误。
在任意固定的计算资源下，蒙特卡罗算法可以得到一个近似解。
那是不是Las Vegas 算法就一定优于蒙特卡洛呢？那可真不一定，由于对机器学习中的许多问题来说，我们很难得到精确的答案。这类问题很难用精确的确定性算法，例如，Las Vegas 算法来解决，取而代之的是确定性的近似算法或者蒙特卡洛近似方法。
这是不是很像现实中的一些事情呢，有一些东西看起来不是最优秀的，但它也能在自己适用的地方表现自己的风采或者有用的地方，这大概就是所谓的“存在即合理吧”。（瞎XX想23333）
机器学习中的许多工具都基于从某种分布中采样，以及用这些样本最目标量做一个蒙特卡洛估计。
那为什么要采样呢？因为当我们需要以较小的代价近似许多项的和或某个积分时，采样时一种灵活的选择。
在实际情况中，我们希望采用哦个蒙特卡洛方法，然而往往又不存在一种简单的方法可以直接从目标分布中精确采样或者得到一个好的重要采样分布。于是为了解决这个问题，我们引入了一种称为马尔可夫链的数学工具。并且利用马尔可夫链来进行蒙特卡洛估计的这一类算法被称之为马尔可夫链蒙特卡洛方法
第18章 直面配分函数
这一章开始前，我们要先补习一下配分函数的概念，
配分函数（英语：Partition function）是一个平衡态统计物理学中经常应用到的概念，经由计算配分函数可以将微观物理状态与宏观物理量相互联系起来，而配分函数等价于自由能，与路径积分在数学上有巧妙的类似。（百度的，看完之后想说WTF，你丫说的是什么）
反正就是一个很牛逼的东西，它可以训练和评估那些具有难以处理的配分函数的模型。
投递商汤科技等公司9个岗位 >