第25章 条件随机场和句法分析 自然语言中句法分析（Scence Parsing），一般是指根据文法对一个句子进行分析，建立这个句子的语法树，即文法分析（Syntactic Pasing），有时也指对一个句子中各成分的语义进行分析，即对这个句子语义的一种描述，即语义分析（Semantic Pasing）。 对于文法分析（结构分析），看做括括号的过程。 P（A|prefix）表示[ 跳过 ]的动作。Prefix表示从句子开头到目前为止所有不同语法成分，利用最大熵模型实现。 自然语言应用中，并不需要对语句进行深入分析，1）只做浅层分析（Shallow Pasing），比如找出句子主要的成...

第十六章：信息指纹及其应用 1\. 信息指纹就是把信息随机地映射到一个***二进制空间的一个点（就是一个数字）。Hash是其中的一种。目的是为了搜索、去重、和加密。 2\. 理论上，一个信息指纹需要的最少位数是他的信息熵 3\. 判断集合相同：最佳办法是，计算两集合的指纹，然后判断指纹是否相同。 4\. 信息指纹有可能是重复的，即，两个不同的信息，对应了相同的指纹。但概率极低。 5\. 相似哈希。用于google网页判重。 第十七章：由电视剧《暗算》所想到的 - 谈谈密码学的数学原理 1\. 加密后的密文的概率分布不能和明文的概率分布相同，否则，通过收集大量密文，就有可能通过统计来破解...

第八章和第九章的内容非常基础且简单，以趣味介绍为主，所以在此，我合并为一篇读书笔记。   这两章主要讲述了布尔运算和图论知识在计算机之中的运用。 首先第八章布尔代数和搜索引擎。搜索引擎的原理非常简单，建立一个简单的搜索引擎需要做到：自动下载尽可能多的页面；建立快速有效的索引；根据相关性网页进行公平准确的排序。在此后的三章中会解决掉这三个步骤。 第八章主要解决的是：建立快速有效的索引。在数学层面上，我们知道，布尔代数运算非常简单，仅仅只有与（AND）、或（OR）和非（NOT）这三种运算，这三种运算加上0、1两种状态，是数学发展过程中不断地抽象和概括的体现，这些抽象了的状态...

在前面的内容中，我们对现代语音识别和自然语言处理的数学知识有了一定的了解。本章的主要目的是通过记叙贾里尼克的一些生平经历，期望读者能从中得到一些启发，为以后的路留下指引。借用书中的小标题来串联贾里尼克的一生。 一、早年生活。 弗里德里克·贾里尼克（Frederek Jelinek）出生于捷克的一个富裕的***家庭，贾里尼克的父母非常重视他的教育，但是二战摧毁了这个家庭，贾里尼克也由于长期在外漂泊，成绩一塌糊涂。他在很小的时候梦想当一个律师，为他父亲这样的冤屈者辩护；后来，梦想成为一个医生；在这个过程中，他认识了许多世界级的大师，这些大师对他的影响意义深远。 读书的态度：“每当...