数据挖掘算法知识包下载

点击文件名下载附件
数据挖掘算法知识包


数据挖掘十大经典算法
一、C4.5
C4.5 算法是机器学习算法中的一种分类决策树算法,其核心算法是 ID3 算法。
C4.5 算法继承了 ID3 算法的优点，并在以下几方面对 ID3 算法进行了改进：
1) 用信息增益率来选择属性， 克服了用信息增益选择属性时偏向选择取值多的属性的不足；
2) 在树构造过程中进行剪枝；
3) 能够完成对连续属性的离散化处理；
4) 能够对不完整数据进行处理。
C4.5 算法有如下优点：产生的分类规则易于理解，准确率较高。其缺点是：在构造树的过程中，需要对数据集进行多次的顺序扫描和排序，因而导致算法的低效。
1、机器学习中，决策树是一个预测模型；他代表的是对象属性与对象值之间的一种映射关系。树中每个节点表示某个对象，而每个分叉路径则代表的某个可能的属性值，而每个叶结点则对应从根节点到该叶节点所经历的路径所表示的对象的值。决策树仅有单一输出，若欲有复数输出，可以建立独立的决策树以处理不同输出。
2、从数据产生决策树的机器学习技术叫做决策树学习, 通俗说就是决策树。
3、决策树学习也是数据挖掘中一个普通的方法。在这里，每个决策树都表述了一种树型结构，他由他的分支来对该类型的对象依靠属性进行分类。每个决策树可以依靠对源数据库的分割进行数据测试。这个过程可以递归式的对树进行修剪。当不能再进行分割或一个单独的类可以被应用于某一分支时，递归过程就完成了。另外，随机森林分类器将许多决策树结合起来以提升分类的正确率。
决策树是如何工作的？
1、决策树一般都是自上而下的来生成的。
2、选择分割的方法有好几种，但是目的都是一致的：对目标类尝试进行最佳的分割。
3、从根到叶子节点都有一条路径，这条路径就是一条―规则
4、决策树可以是二叉的，也可以是多叉的。
对每个节点的衡量：
1) 通过该节点的记录数
2) 如果是叶子节点的话，分类的路径
3) 对叶子节点正确分类的比例。

有些规则的效果可以比其他的一些规则要好。
由于 ID3 算法在实际应用中存在一些问题，于是 Quilan 提出了 C4。5算法，严格上说 C4。5只能是 ID3 的一个改进算法。
C4.5 算法继承了 ID3 算法的优点，并在以下几方面对 ID3 算法进行了改进：
1) 用信息增益率来选择属性， 克服了用信息增益选择属性时偏向选择取值多的属性的不足；
2) 在树构造过程中进行剪枝；
3) 能够完成对连续属性的离散化处理；
4) 能够对不完整数据进行处理。
C4.5 算法有如下优点：产生的分类规则易于理解，准确率较高。其缺点是：在构造树的过程中，需要对数据集进行多次的顺序扫描和排序，因而导致算法的低效。此外，C4.5 只适合于能够驻留于内存的数据集，当训练集大得无法在内存容纳时程序无法运行。 来自搜索的其他内容：
C4.5 算法是机器学习算法中的一种分类决策树算法,其核心算法是 ID3 算法。分类决策树算法是从大量事例中进行提取分类规则的自上而下的决策树。决策树的各部分是:
根: 学习的事例集。
枝: 分类的判定条件。
叶: 分好的各个类。