首页 > 试题广场 >

请简述生成式模型与判别式模型的区别,并简单列举几个分别属于生

[问答题]
请简述生成式模型与判别式模型的区别,并简单列举几个分别属于生成式模型与判别式模型的常见算法
生成式模型(Generative Model)与判别式模型(Discrimitive Model)它们的区别在于:假设有样本输入值(或者观察值)x,类别标签(或者输出值)y判别式模型评估对象是最大化条件概率p(y|x)并直接对其建模,生成式模型评估对象是最大化联合概率p(x,y)并对其建模。
其实两者的评估目标都是要得到最终的类别标签Y, 而Y=argmax p(y|x),不同的是判别式模型直接通过解在满足训练样本分布下的最优化问题得到模型参数,主要用到拉格朗日乘算法、梯度下降法,常见的判别式模型如最大熵模型、CRF、LR、SVM等;
而生成式模型先经过贝叶斯转换成Y = argmax p(y|x) = argmax p(x|y)*p(y),然后分别学习p(y)和p(x|y)的概率分布,主要通过极大似然估计的方法学习参数,常见的判别式模型如NGram、HMM、Naive Bayes。
编辑于 2021-01-15 11:07:07 回复(0)