文章目录  Method  Model Overview  1. Word Representation Layer 2. Context Representation Layer 3. Matching Layer 4. Aggregation Layer 5. Prediction Layer  Multi-prespective Matching Operation  实验  实验设置 实验结果  复现    论文贡献: 提出了一种双向的多角度匹配模型（bilateral multi-perspective matching). Method Model Overview   1. Wo...

to_string c_str Returns a pointer to an array that contains a null-terminated sequence of characters (i.e., a C-string) representing the current value of the string object. string str("Please split this sentence into tokens"); char *cstr = new char[str.length()+1]; strcpy(cstr, str.c_str()...

文章目录  模型结构  Hierarchical Attention  Word Encoder Word Attention Sentence Encoder Sentence Attention  Document Classification  实验  数据集 参数 实验结果    模型结构 <center> </center> Hierarchical Attention Word Encoder Encoder采用的双向GRU <center> <center> </center> </center> Word ...

文章目录  模型  Input representation Attend Compare Aggregate Intra-Sentence Attention(Optional)  参数设置 实验   模型 模型主要包括四部分: Input representation, Attend, Compare, Aggregate   Input representation 最简单的方式就是直接将词向量作为输入.更复杂的方式见后面optinal部分. Attend 首先计算a和b中的每个词之间的attention weights   F是一个激活函数为ReLU的前馈神经网络。 attention...

文章目录  模型介绍  Hybrid Neural Inference Models  1. Input Encoding 2. Local Inference Modeling 3. Inference Composition   实验  参数设置 实验结果    模型介绍 Hybrid Neural Inference Models   可以用BiLSTM编码, 也可以使用Tree-LSTM. 这里只介绍基于BiLSTM的结构. 1. Input Encoding   输入两句话分别接embeding + BiLSTM 2. Local Inference Modeling 就是一个计算a...

文章目录  1. Siamese Recurrent Architectures for Learning Sentence Similarity  模型结构  Manhattan LSTM Model  实验  参数设置 实验结果   2. Learning Text Similarity with Siamese Recurrent Networks  模型结构 Contrastive loss function  复现   1. Siamese Recurrent Architectures for Learning Sentence Similarity 模型结构 Manhattan ...

接上节课没讲完的word2vec word2vec(续) 训练策略： SGD <center> </center> Word2vec使用SGD训练存在的问题： 每次只有窗口内的词会参与训练，梯度矩阵太稀疏，训练效率低。 <center> </center> 优化方法: 1.negative sampling 转化为二分类问题 <center> </center> 2.hierarchical softmax Glove <center> </center> 公式推导参考这里 词向量评估 <ce...

定义符号：       X   i    =  <munderover>  ∑    j   =   1    N  </munderover>   X    i   ,   j      P    i   ,   k     =     X    i   ,   k      X   i     r   a   t   i    o    i   ,   j   ,   k     =     P    i   ,   k      P    j   ,   k       X_i = \sum_{j=1}^N{X_{i,j}}\\ P_{i,k} = \frac{X...

Lecture1  本节主要内容 How to represent word?  Problems with resources like WordNet Problem with words as discrete symbols(one-hot vector)  Word2vec   本节主要内容 word representation word2vec How to represent word? Problems with resources like WordNet 1.Great as a resource but missing nuance​​​​​​​ 2 Missing n...

make_heap, pop_heap, push_heap, sort_heap用法  make_heap push_heap pop_heap sort_heap example    必须包含头文件<algorithm> make_heap template <class RandomAccessIterator> void make_heap (RandomAccessIterator first, RandomAccessIterator last); template <class RandomAccessIterator, class Compare...

C++ STL容器总结（二）  关联容器  概述 关联容器类型 set map  容器适配器  stack queue priority_queue    关联容器 概述 set, multiset, map, multimap 是一种非线性的树结构，具体的说采用的是一种比较高效的特殊的平衡二叉查找树—— 红黑树结构。 因为关联容器的这四种容器类都使用同一原理，所以他们核心的算法是一致的，但是它们在应用上又有一些差别，先描述一下它们之间的差别。 set ，又称集合，实际上就是一组元素的集合，但其中所包含的元素的值是唯一的，且是按一定顺序排列的，集合中的每个元素被称作集合中的实例。因为其内部是通...

C++ STL总结（一）  顺序性容器  概述 通用容器操作  构造函数 赋值与swap 大小 添加/删除元素（不适用于array） 获取迭代器 反向容器的额外成员（不支持forward_list）  vector && deque && list  vector  特性 常用函数 嵌套vector初始化  deque list string     通用容器的分类 STL 对定义的通用容器分三类：顺序性容器，关联式容器和容器适配器。 顺序性容器：是一种各元素之间有顺序关系的线性表，是一种线性结构的可序群集。顺序性容器中的每个元素均有固定的位置，除非用删除或插入...

机器学习面试知识点总结（五）  决策树  决策树学习 特征选择  信息增益  熵 条件熵 信息增益 信息增益比  决策树的生成  ID3算法 C4.5算法 CART算法  CART的生成    《百面机器学习》中相关问题  补充     决策树 决策树主要优点是模型具有可读性，分类速度快。 决策树的学习通常包括三个步骤：特征选择，决策树的生成和决策树的修剪。 决策树学习 决策树学习本质上是从训练数据集中归纳出一组分类规则。决策树学习的损失函数通常是正则化的极大似然函数，决策树学习的策略是以损失函数为目标函数的最小化。当损失函数确定以后，学习问题就变为在损失函数意义下选择最优决策树的问题。从所有...

区别方法： 如果const位于*的左侧，则const就是用来修饰指针所指向的变量，即指针指向为常量； 如果const位于*的右侧，const就是修饰指针本身，即指针本身是常量。 换句话说，如果const靠近数据类型，就是修饰该类型的变量为常量 ： const int x=20;//定义int类型的符号常量x，x=10 const int *p=&x;//定义指向常量的指针p,可以改变指针的指向，但是不能通过指针来改变 x中的值  如果：const靠近指针,就是定义这个指针为常指针 例： int * const p2=&x;//定义常指针p2，不可改变指针的指向（常指针），但可以...