分类技术原理:
分类技术或分类法(Classification)是一种根据输入样本集建立类别模型,并按照类别模型对未知样本类标号进行标记的方法。
1.决策树
决策树就是通过一系列规则对数据进行分类的过程。
决策树分类算法通常分为两个步骤:构造决策树和修剪决策树。
2.k-最近邻
最临近分类基于类比学习,是一种基于实例的学习,它使用具体的训练实例进行预测,而不必维护源自数据的抽象(或模型)。它采用n 维数值属性描述训练样本,每个样本代表n 维空间的一个点,即所有的训练样本都存放在n 维空间中。若给定一个未知样本,k-最近邻分类法搜索模式空间,计算该测试样本与训练集中其他样本的邻近度,找出最接近未知样本的k 个训练样本,这k 个训练样本就是未知样本的k 个“近邻”。其中的
最近邻分类是基于要求的或懒散的学习法,即它存放所有的训练样本,并且直到新的(未标记的)样本需要分类时才建立分类。其优点是可以生成任意形状的决策边界,能提供更加灵活的模型表示。