判别模型

在机器学习领域判别模型是一种对未知数据 $y$ 与已知数据 $x$ 之间关系进行建模的方法。判别模型是一种基于概率理论的方法。已知输入变量 $x$ ，判别模型通过构建条件概率分布 $P(y|x)$ 预测 $y$ 。

与生成模型不同，判别模型不考虑 $x$ 与 $y$ 间的联合分布。对于诸如分类和回归问题，由于不考虑联合概率分布，采用判别模型可以取得更好的效果^[1]^[2]^[3]。而生成模型在刻画复杂学习任务中的依赖关系方面则较判别模型更加灵活。大部分判别模型本身是监督学习模型，不易扩展用于非监督学习过程。实践中，需根据应用的具体特性来选取判别模型或生成模型。

种类

参见

生成模型

参考

^ P. Singla and P. Domingos. Discriminative training of Markov logic networks. In AAAI, 2005.
^ J. Lafferty, A. McCallum, and F. Pereira. Conditional Random Fields: Probabilistic Models for Segmenting and Labeling Sequence Data. In ICML, 2001.
^ A. Ng and M. I. Jordan. On Discriminative vs. Generative Classiﬁers: A Comparison of Logistic Regression and Naive Bayes. In NIPS, 2001

这是一篇与科学相关的小作品。您可以通过编辑或修订扩充其内容。

[1] P. Singla and P. Domingos. Discriminative training of Markov logic networks. In AAAI, 2005.

[2] J. Lafferty, A. McCallum, and F. Pereira. Conditional Random Fields: Probabilistic Models for Segmenting and Labeling Sequence Data. In ICML, 2001.

[3] A. Ng and M. I. Jordan. On Discriminative vs. Generative Classiﬁers: A Comparison of Logistic Regression and Naive Bayes. In NIPS, 2001

[1]

[2]

[3]