《深度学习》第11章、第12章读后感
这一周继续阅读了《深度学习》的第11章和第12章
其中第11章主要介绍了实践方法论这一重要的知识；第12章主要介绍了比较成熟的模型以及应用
要想学习好深度学习的技术，仅仅知道存在哪些算法和解释它们的原理是远远不够的，我们应该知道如何针对具体应用挑选一个合适的算法以及如何监控，并根据反馈改进学习系统。而实现改进做出比如，
增加或者减少模型容量、添加或者删除正则化项、改进模型的优化、改进模型的近似推断等的操作都需要大量的时间，因此确定正确的方法，而不是去盲目猜测尤为重要。
以下4个步骤是关于实践的设计流程：
- 确定目标——根据所要解决的问题和达到的目标决定使用什么样的误差度量，并为此误差度量指定目标值。
- 建立一个端到端的工作流程，包括估计合适的性能度量
- 搭建系统，并确定性能瓶颈。
- 根据具体观察反复地进行增量式的改动。
第12章主要介绍了如何使用深度学习来解决计算机视觉、语音识别、自然语言处理以及其他商业领域中的应用。
该章首先介绍了许多最重要的AI应用中所需的大规模神经网络的实现。接着，回顾了深度学习已经成功的应用的几个特定领域。其中，要说明的是，尽管深度学习的一个目标是设计出能够处理各种任务的算法，但是目前的深度学习的应哟经仍然需要一定程度的特化。比如，计算机视觉中的任务对每一个样本都需要处理大量的输入特征（像素），自然语言处理任务的每一个输入特征都需要对大量的可能值（词汇表中的词）建模。
深度学习的基本思想基于联结***：尽管机器学习模型中单个生物性的神经元或者说是单个特征不是智能的，但是大量的神经元或者特征作用在一起往往能够表现出智能。我们必须强调神经元数量必须很大这个事实。虽然在过去30年内，网格规模是以指数级的速度递增的。然而如今的人工神经网络的规模也仅仅和昆虫的神经系统差不多。
查看16道真题和解析